Как распознать контент, созданный нейросетью: изображения, видео, дипфейки

В 2024 году все заговорили о полезности нейросетей для бизнеса. Но что такое нейросеть? Технически — это компьютерная имитация работы нейронов в мозге человека. Когда наш мозг думает и запоминает информацию, нейроны в нём соединяются по-новому. За счёт этого происходит мыслительный процесс и запоминание.

Так же работает нейросеть. Искусственная система распознаёт образы и речь, создаёт уникальные фотографии, видеоролики и тексты. Такой контент может быть использованы как для бизнеса, так и для различных манипуляций. Например:

• СМИ распространяют дезинформацию, сгенерированную ИИ;
• мошенники создают дипфейки, чтобы завладеть чужими деньгами;
• дизайнеры и копирайтеры выдают сгенерированный контент за свой;
• нечестные маркетологи используют дипфейки артистов в рекламе, чтобы продать некачественный товар.

Чтобы не быть обманутым, нужно знать, как определить искусственный интеллект. В статье разберём, как отличить фото от нейросети, распознать видео и дипфейки, созданные ИИ. В конце материала приведём список сервисов, которые помогут распознать искусственный интеллект.

Нейросети достигли высот в генерации контента. Некоторые фото и видео, сделанные ИИ, действительно сложно отличить от настоящих. Но как распознать искусственный интеллект?
На самом деле это несложно. Сервисы пока ещё только копируют увиденное, не понимая законы физики и анатомию человека. Поэтому они допускают много ошибок.
Например, сети плохо справляются с текстурами и мелкими деталями: пальцами, ушами, зрачками, волосами, кожей. В сгенерированных видео части тела порой неестественно меняют форму, а отдельные предметы могут нарушать законы гравитации, иметь странное освещение и тени.
Далее детально разберём, чем отличается фото нейросети, как отличить видео нейросети от настоящего, и как определить дипфейк.

Достаточно быть просто внимательным. Нейросети — всего лишь математические алгоритмы, которые допускают ошибки видимые человеческому глазу. Если достаточно внимательно посмотреть на изображение, то почти всегда можно понять, как отличить настоящее фото от нейросети.

Формат кадра. Нейросети отлично научились генерировать лица несуществующих людей, но есть нюанс — большинство из них получаются как на паспорт: строго анфас и с однородным фоном сзади. Формат фотографий обычно квадратный или 3х4.

Детали лица. ИИ научился придумывать лица людей, но пока ещё не умеет прорабатывать мелкие детали. Кожа, сгенерированная нейросетью, зачастую выглядит слишком гладкой. Уши имеют странную форму, а серьги парят в воздухе или закреплены неестественным образом.

Симметрия. Ещё один признак работы нейросети — симметричность лица. Глаза, брови, уши и губы на сгенерированных снимках выглядят одинаково, словно их отзеркалили, в то время как лица реальных людей обладают заметной асимметрией.

Посмотрите на этот снимок молодого человека, созданный нейросетью. Слева — оригинальное фото, а на правой фотографии вместо правой части лица отзеркалена левая. Как видите, изменилась только причёска и исчезли родинки, а черты лица остались теми же.

У настоящих людей так не бывает. Одна часть лица человека всегда отличается от другой. Поэтому слишком симметричные лица нас пугают и кажутся искусственными

Иногда встречается другая крайность, когда глаза или уши на фото различаются по цвету, форме или размеру. Это тоже может быть признаком работы нейросети.

Мелкие детали и кисти рук. Большинство нейросетей пока ещё не справляются с прорисовкой зубов, глаз и рук. Проблема заключается в том, что ИИ обучается на реальных фото людей, где бывают разные ракурсы. Поэтому нейросети часто приходится импровизировать.

Странный текст. Нейросети научились неплохо копировать образы, но до сих пор не научились понимать содержимое. Надписи на футболках, вывески магазинов, рекламные щиты и граффити на стенах искусственный интеллект воспроизводит очень условно. Обычно текст либо не подходит содержанию фотографии, либо представляет собой нечитаемую абракадабру.

Происходит это потому что во время обучения нейросеть сканирует миллионы фотографий и для неё текст на фото — это просто часть изображения. Поэтому она воспроизводит его не ориентируясь на алфавит, орфографию и здравый смысл. Если вы видите на картинке странные вывески и надписи — это может быть признаком работы ИИ.

Загадочные предметы на фоне. На фото нейросетей различные объекты могут быть нарисованы нелогично и очень образно. Посмотрите на фотографию ниже. Кажется, что всё хорошо, но если присмотреться, то объекты на фото начинают вызывать вопросы.

Мелкие картинки на мебели выполнены очень условно. Стол заставлен гаджетами, которые похожи на клавиатуры с толстыми проводами. При этом сам мужчина печатает на какой-то тонкой пластине, которая парит в воздухе.

Отсутствие идеи и уникальности. Как отличить нейросеть от художника? — оценить концепцию и технику выполнения картины. В работах, выполненных вручную, сохраняется замысел и почерк творца. Сгенерированные изображения, наоборот, выглядят бессмысленными и однотипными.

ИИ научился придумывать красивые миры, но не научился чувствовать образы и закладывать идеи в свои картины. Безусловно, нейросети будут совершенствоваться, но пока они не научатся чувствовать, мы сможем понять, как определить искусственный интеллект.

Видеоролики, созданные ИИ, пока ещё не достигли совершенства и содержат ряд погрешностей. Основные проблемы касаются проработки мелких деталей, неестественных движений, проблем с фоном и освещением. Разберём, как отличить видео нейросети от настоящего.

Небольшие изменения. В сгенерированных видео люди и предметы могут вести себя неестественно или изменяться. В ролике Man on the cloud от Sora мужчина читает книгу, сидя на облаке. Человек выглядит реалистично, но страницы книги переворачиваются очень странно.

Во многих видео нейросетей объекты могут появляться, а затем исчезать из кадра, как это происходит с космонавтом в ролике Mitten astronaut от Sora.

Или в ролике с жителями Лагоса. Обратите внимание на мужчину на заднем фоне. Как только камера сделает круг, он просто испарится.

Неестественные движения. В нейровидео герои двигаются очень плавно, либо просто стоят на месте и раскачиваются, словно персонажи компьютерных игр, как в ролике Lost in space GEN-3. При просмотре это вызывает отталкивающий эффект, потому что настоящие люди так себя не ведут.

Нейросети пока ещё плохо умеют генерировать человеческую речь. Губы моделей во время диалога обычно не попадают в слова, а другие части лица в этот момент вообще не двигаются. Это выглядит неправдоподобно, поэтому в нейровидео персонажи обычно молчат и не разговаривают.

Мелкие детали. Руки, очки и волосы до сих пор вызывают проблемы у нейросетей. По ходу видео они могут изменяться, неестественно выгибаться и нарушать законы физики. Пальцы у персонажей часто слишком тонкие и неправильно держат предметы. Присмотритесь к этой сцене с жителями Лагоса. Здесь у парня неожиданно появляется третья рука.

Далее какие-то аномалии происходят с рукой подростка. Она изгибается в разные стороны, словно рука пришельца.

В финале сцены руки парня в очках слипаются, а потом в них появляется предмет, напоминающий пачку чипсов. При этом глаза подростка выглядят максимально жутко. Сцена похожа на фильм ужасов.

В ролике с котиком от Sora у животного неожиданно вырастает ещё одна лапа. Выглядит пугающе.

Проблемы с фоном. По фону легче всего определить, что ролик создан нейросетью. ИИ обычно прорисовывает задний план очень условно, поэтому предметы и люди на фоне выглядят неестественно. Посмотрите на облака в ролике Man on the cloud. Вы когда-нибудь видели, чтобы они так быстро видоизменялись?

Приглядитесь к парню в полосатой одежде в ролике с жителями Лагоса. По мере приближения камеры вы заметите, как его голова провалилась вперёд, тело вросло в стол, а ноги выгнулись в неестественной позе. Слева под столом вообще торчат отдельные ноги без туловища.

Ещё один пример — сгенерированное нейросетью видео побережья Big Sur. Выглядит очень реалистично, но есть один нюанс: волны здесь появляются буквально на ровном месте или прямо из камней.

Странное освещение. Люди и предметы в сгенерированных видеороликах всегда идеально освещены. При этом вопреки законам физики. В ролике с космонавтом Mitten astronaut мы видим, что солнце находится позади главного героя, но лицо персонажа, тем не менее, подсвечено.

Нейросети тренируются на профессиональных видео с кинематографическим освещением, поэтому классный свет в ролике может быть признаком работы ИИ.

Ощущение тревоги. Во время просмотра сгенерированных видео возникает ощущение, что здесь что-то не так. Термин получил название «эффект зловещей долины». Посмотрите ещё раз на эту сцену с жителями Лагоса. Визуально она очень реалистична, но если присмотреться, то видно, что все персонажи за столом не смотрят друг другу в глаза и общаются словно с кем-то невидимым.

Видеоролик с котиком прекрасно прорисован и очень мил (несмотря на лишнюю лапу животного), но в самом его начале мы видим жуткую гримасу девушки, лицо которой выглядит пугающе.

Загадочные предметы. Сгенерированные видео легко распознать по странным предметам. Например, главный герой ролика Mitten astronaut носит вязаный открытый шлем и использует сомнительный девайс, чтобы открыть люк космического корабля.

Дипфейк — это реалистичная подмена фотографий, аудиозаписей или видеороликов, созданная нейросетью. Технология часто применяется в фильмах, видеоиграх, рекламе.

Например, команда Obscura создаёт цифровые аватары для бизнеса. Виртуальные персонажи, изготовленные нашими специалистами, копируют внешность конкретных людей, движения, голос, мимику. Их можно использовать в видеороликах, презентациях, на сайтах, чтобы сократить время и средства на создание большого количества видеоконтента.

Как заказать цифровой аватар

Кроме этого, дипфейки могут быть использованы и мошенниками для преступных целей:

• шантажа;
• махинаций с деньгами;
• распространения ложной информации;
• социального инжиниринга.

Как отличить дипфейк

Обратите внимание на посыл. Если известный человек в ролике сеет панику, призывает сделать репост или перечислить деньги — возможно, это работа мошенников. Как определить дипфейк?
Используйте следующие советы:

1. Проверьте источник. Если новость действительно резонансная, то об этом напишут крупные СМИ. Фальшивки обычно распространяют только сомнительные каналы.

2. Оцените качество. Фейковые ролики часто выполнены в плохом разрешении (чтобы скрыть артефакты), имеют неестественное освещение, размытые контуры и лишние детали в кадре.

3. Проанализируйте движения. В поддельных роликах люди часто ведут себя неестественно: у них странная мимика и движения, артикуляция не совпадает с голосом, они необычно моргают.

4. Присмотритесь к деталям. У дипфейков может быть слишком гладкая кожа, очень белые зубы, размытые волосы, проблемы с пальцами и т. д. В фальшивых видео эмоции людей выглядят странно и неестественно.

5. Послушайте голос. Синтезированный голос обычно звучит монотонно. Нейросеть зачастую ставит неверные ударения в словах, делает лишние паузы, использует нехарактерную для человека манеру общения.

6. Проверьте ссылки, названия, e-mail. Если вы получили контент по почте или в мессенджере — убедитесь, что его отправил надёжный источник. Мошенники часто создают поддельные сайты, ТГ-каналы и электронные ящики, меняя одну букву или цифру в названии.

Посмотрите, как выглядит дипфейк Марка Цукерберга. Очень похоже, не так ли? Впрочем, если присмотреться, то можно заметить, что у фейкового Марка немного странный голос и мимика. Во время разговора он делает неестественные движения, а движения его губ не всегда совпадают с речью.


Что делать, если вы столкнулись с дипфейком

Распознать фальшивку бывает непросто. Некоторые дипфейки технически выглядят очень убедительно. Но если вас настораживает посыл — не реагируйте на контент, не доверяйте ему и не делитесь им в своих аккаунтах. Это лучший способ борьбы с мошенниками.

Если вам звонят или пишут близкие со странными просьбами — свяжитесь с ними по другим каналам связи, или спросите их о каком-либо факте, который известен только вам обоим. И, конечно же, не отправляйте никому свои данные и не переводите деньги.

Если фото или видео вызывают у вас подозрение, воспользуйтесь сервисами проверки. Инструменты выявления сгенерированного контента появились совсем недавно и пока ещё работают не очень хорошо, но кое-чем могут помочь. Вот несколько из них:

Deepware — бесплатный инструмент для обнаружения дипфейков. У сервиса максимально простой интерфейс. Достаточно вставить ссылку на видео и нажать одну кнопку, чтобы получить анализ. Поддерживаются ссылки только на Youtube, Facebook и X.

AI or Not — платный сервис для тех, кто хочет узнать, как распознать нейросеть на фото. В большинстве случаев отличает реальные снимки от сгенерированных. Недавно разработчики добавили функцию определения фейковых аудио.

Illuminarty — ещё один инструмент, который помогает понять, как отличить рисунок нейросети от человека. Достаточно точно определяет явно сгенерированные изображения, но хорошо проработанные нейросетевые фото определяет не всегда. Возможно, в будущем результаты будут лучше, т.к. сервис находится в стадии обучения.

TrueMedia — бесплатный онлайн-сервис для обнаружения дипфейков в социальных сетях. Достаточно вставить ссылку на ролик и дождаться результата. Инструмент работает с TikTok, X, Facebook, Instagram, Reddit, Truth Social.

Если это не помогло — попробуйте поискать картинку или скриншот видео с помощью поиска изображений Google или Яндекс. Так можно найти оригинальный контент и его источник.
К сожалению, даже специальные сервисы пока не могут дать 100% гарантии, поскольку развиваются медленнее, чем инструменты для создания контента. Лучший способ защиты от фейков — знание уязвимых мест нейросетей и собственная насмотренность.

Искусственный интеллект – это мощный инструмент, который применяется в самых разных сферах, включая создание текстов, иллюстраций, видео и аудио. Однако, как и любой инструмент, он требует грамотного использования, чтобы приносить реальную пользу.

Что важно учитывать:

• Необходимость проверки. Результаты работы ИИ требуют внимательной доработки. Обязательно проверяйте контент на ошибки, уникальность и соответствие поставленным задачам.
• Ограниченный креатив. ИИ отлично справляется с рутинными задачами, но может не справиться с более сложными концепциями и идеями, особенно в области художественного выражения.
• Отсутствие интуиции. Нейросеть не понимает контекста так, как это делает человек, и действует строго в рамках заданных параметров, что может привести к неожиданным результатам в контенте.
• Риски шаблонности. Созданные материалы могут оказаться слишком однообразными, особенно при нечетких запросах.
• Этика и подлинность. Использование ИИ для создания дипфейков и других форм контента требует особого внимания к этическим вопросам и правам на интеллектуальную собственность.

Если вы хотите избежать распространенных ошибок и получить качественный результат, добро пожаловать к нам, в агентство Обскура. Мы профессионально занимаемся контент-маркетингом уже более 15 лет – и без нейросетей, и с ними.