Определение

Дипфейки — это синтетические медиа, в которых с помощью искусственного интеллекта лицо человека на существующем изображении или видео заменяется на внешность другого человека. Термин «дипфейк» объединяет слова «глубокое обучение» (deep learning) и «подделка» (fake).

Эволюция

Хотя манипуляции с изображениями существуют десятилетиями, дипфейки представляют собой колоссальный скачок в технологиях. Первые дипфейки появились примерно в 2017 году, используя достижения в машинном обучении и нейронных сетях.

Как они работают

Дипфейки используют две конкурирующие системы ИИ:

• Генератор: создает поддельные изображения
• Дискриминатор: пытается обнаружить подделки

Благодаря этому состязательному процессу генератор учится создавать все более реалистичные результаты.

Дезинформация

Дипфейки могут создавать убедительные фейковые новости, политическую пропаганду и ложные нарративы, в которых реальные люди якобы говорят или делают то, чего они никогда не делали.

Кража личности

Злоумышленники могут использовать дипфейки для выдачи себя за других людей с целью финансового мошенничества, шантажа или нанесения ущерба репутации.

Контент без согласия

Технология дипфейков использовалась для создания несанкционированного откровенного контента, нарушая конфиденциальность и достоинство людей.

Юридические и этические проблемы

Действующее законодательство с трудом справляется с преступлениями, связанными с дипфейками. Этические вопросы, касающиеся согласия и цифровой идентичности, остаются в основном неразрешенными.

Визуальный анализ

Что следует тщательно изучить:

• Глаза: Неестественные отражения или асимметричное моргание
• Волосы: Пряди, которые неестественно сливаются
• Зубы: Нереалистичная текстура или выравнивание
• Кожа: Слишком гладкая или непостоянная текстура

Видеоанализ

Для видеодипфейков:

• Ищите неестественные движения лица
• Проверяйте на непостоянное освещение между кадрами
• Слушайте на предмет несовпадений звука
• Ищите неестественные движения головой

Верификация

Всегда проверяйте подозрительные медиа через несколько источников. Проверяйте официальные каналы и ищите подтверждающие доказательства.

Образование

Будьте в курсе технологий дипфейков и их возможностей. Делитесь знаниями с друзьями и семьей.

Цифровая гигиена

Ограничьте количество личных фотографий, которыми вы делитесь в Интернете. Используйте настройки конфиденциальности в социальных сетях, чтобы контролировать доступ к вашим изображениям.

Инструменты обнаружения

При сомнениях используйте инструменты обнаружения дипфейков. Многие организации разрабатывают системы обнаружения на основе ИИ.