Что такое Deepfake AI? Все, что вам нужно знать

Хотя во многих случаях дипфейки проявляются как безобидные мемы или хитроумные маркетинговые кампании, технологии дипфейков представляют собой растущий культурный, политический, экономический, социальный и деловой риск, способный причинить вред.

Последствия дипфейков вызывают тревогу: от распространения дезинформации до причинения вреда репутационный ущерб политическим и общественным деятелямк корпоративный шпионажи кибератаки. Растет число специализированных дипфейковых сообществ и сайтов, которые даже позволяют потребителям заказные дипфейки.

Deepfakes — это изображения, видео и аудио, которые выглядят убедительно реальными, но на самом деле являются подделками, созданными с помощью искусственного интеллекта. Технологии глубокого обучения, машинного обучения (ML) и искусственного интеллекта (AI) используются для создания фейкового контента, например, наложения лица знаменитости на тело другого человека, чтобы они говорили или совершали вымышленные действия с целью обмана зрителей.

Технологии Deepfake становятся все более изощренными и позволяют преступникам изменять контекст рассказываемого повествования, что может умалить подлинность информации, которую мы получаем в сети. С ростом количества Deepfake примерно вдвое каждые шесть месяцеввопрос о том, как распознать дипфейки, становится все более актуальным.

Как создается дипфейк?

Видеоролики Deepfake часто создаются с использованием вариационный автокодировщик (VAE) и алгоритм распознавания лицИзображения кодируются в низкоразмерные представления, которые затем декодируются обратно в изображения обученными VAE.

На практике это будет выглядеть примерно так:

• Человек хочет сделать фейковое видео известного артиста для рекламы Суперкубка
• Человек использует автоматический кодировщик, обученный на изображениях лица артиста, и другой, обученный на различных изображениях лица.
• Обучающие наборы для каждого автокодировщика можно выбирать, применяя алгоритм распознавания лиц к видео, фиксирующим различные позы и условия освещения.
• После обучения два отдельных кодера объединяются для отображения реалистичного видео лица артиста на теле другого человека.

Прогресс отрасли в обнаружении дипфейков

В соответствии с Кагглопределение сфальсифицированных медиа является технической задачей, требующей межотраслевого сотрудничества. В последние годы циркулируют инициативы, основанные на исследованиях, которые направлены на автоматическое обнаружение различных проявлений дипфейков, которые часто чрезвычайно трудно идентифицировать людям.

The Конкурс по обнаружению DeepFake (DFDC)конкурс, созданный AWS, Microsoft, Facebook, Partnership on AI и учеными, был запущен на Kaggle и предлагал приз в размере 1 миллиона долларов исследователям со всего мира, которые могли бы разработать инновационные технологии для помощи в обнаружении Deepfakes и манипулированных медиа. Он собрал более 2000 участников и сгенерировал более 35 000 моделей обнаружения дипфейков.

Detect Fakes — это исследовательская инициатива Массачусетского технологического института, которая стремится определить методы противодействия дезинформации, генерируемой ИИ, и предлагает видеоролики, побуждающие участников попрактиковаться, чтобы отличить DeepFake от настоящего видео.

Исследователи из Калифорнийского университета в Беркли и Стэнфорда создали подход на основе искусственного интеллекта для обнаружения технологии синхронизации губ, которая способна идентифицировать 80 процентов подделок путем понимания несоответствия между формой рта человека и звуками, которые он издает во время речи.

Microsoft выпустила коммерческий инструмент обнаружения дипфейков который анализирует видеокадры и генерирует оценку уверенности программного обеспечения, указывающую, является ли кадр реальным или созданным ИИ. Примечательно, что он был предоставлен различным компаниям, которые следили за выборами в США в 2020 году.

Исследовательские группы Intel и лаборатории графических и графических вычислений в Университете Бингемтона разработали инструмент, который использует биологические сигналы и данные для идентификации и классификации deepfakes с точностью 96 процентов. Инструмент основан на идее, что хотя видео лиц можно синтезировать, тонкие физиологические сигналы, такие как колебания сердечного ритма и кровоток, которые проявляются в виде изменений цвета пикселей, не могут быть легко воспроизведены.

Хотя появляются инновации, потенциально позволяющие выявлять дипфейки, большинство из них остаются на стадии исследований или разработки, а некоторые власти даже предостерегают что для дипфейков может не существовать долгосрочного, технически обоснованного решения.

Вы энтузиаст ИИ и машинного обучения? Если да, то курс ИИ и машинного обучения идеально подойдет для вашего карьерного роста.

Заключительные мысли

Так же, как ИИ используется для создания deepfake, он также является потенциальным инструментом для их обнаружения и борьбы с негативными и неэтичными последствиями вредоносных deepfake-технологий. Поскольку deepfake становятся все более распространенными, это будет иметь ключевое значение для снижения рисков, которые могут возникнуть из-за манипулирования данными.

Информацию о новых разработках и возможностях карьерного роста в области технологий искусственного интеллекта и машинного обучения можно найти на курсах Simplilearn по искусственному интеллекту и машинному обучению, которые могут дать вам навыки, необходимые для работы в этой захватывающей отрасли.