Фото уже не доказательство: как распознать подделку в эпоху ИИ

Рассказываем, почему сегодня снимкам уже нельзя доверять без проверки и как установить их подлинность. Редакция NoFake.kz предложила IT-специалисту определить, какое из четырех изображений создано искусственным интеллектом, а какое — настоящая фотография.

Еще несколько лет назад фотография считалась одним из самых убедительных доказательств. Однако, развитие генеративного искусственного интеллекта изменило ситуацию: современные нейросети создают настолько реалистичные изображения, что отличить их от настоящих становится все сложнее. То же касается и видео.

Чтобы понять, насколько трудно распознать снимок, созданный искусственным интеллектом, редакция NoFake.kz провела небольшой эксперимент. Мы показали IT-специалисту Владиславу Цою четыре изображения: три были сгенерированы нейросетью, одно — настоящей фотографией. Не зная правильного ответа, эксперт должен был определить оригинал и объяснить, какие детали помогли ему сделать вывод.

Оригинальным оказался снимок у Великой Китайской стены и эксперт безошибочно определил оригинальный снимок. По его словам, решающим фактором оказалась не внешность человека, а соответствие освещения условиям съемки.

«В трех кадрах из четырех свет на человеке не совпадает с условиями конкретной сцены: где-то не хватает теплого оттенка, где-то — отражений от мокрой поверхности, где-то — мягкости рассеянного света. Только в кадре у Великой Китайской стены освещение на фигуре и фоне полностью согласуется, поэтому именно его логично считать оригиналом», — объяснил специалист.

На первый взгляд все четыре изображения выглядят убедительно, и без дополнительного анализа определить оригинал непросто. Однако, Владислав Цой искал не привычные признаки некачественной генерации, вроде лишних пальцев или искаженной анатомии, а оценивал соответствие изображения законам физики. Он последовательно анализировал освещение, тени, отражения и взаимодействие объекта с окружающей средой.

Именно это стало главным выводом эксперимента: современные нейросети научились исправлять многие заметные ошибки, поэтому все чаще их выдают не детали внешности, а менее очевидные несоответствия в освещении, перспективе или отражениях. При этом одного визуального анализа уже недостаточно — специалисты рекомендуют дополнять его технической проверкой.

Проверьте технический «паспорт» фотографии

Если у вас сохранился оригинальный файл, а не изображение, скачанное из социальных сетей или мессенджеров, первым делом стоит изучить его метаданные (EXIF).

«В них обычно содержится информация о модели камеры, времени съемки, а иногда и координаты места, где был сделан снимок. Если же вместо данных камеры указаны графические редакторы или генераторы изображений, это может свидетельствовать о том, что файл был создан или обработан с помощью искусственного интеллекта», — говорит Владислав Цой.

Однако, у этого способа есть ограничение: большинство социальных сетей автоматически удаляют EXIF-данные при загрузке изображений.

«Алгоритм проверки простой. Зайдите на сайты exifdata.com или metadata2go.com, загрузите файл и изучите результат. Если сервис показывает данные камеры, GPS-координаты и дату съемки, перед вами, скорее всего, оригинальный файл. Отсутствие метаданных или упоминание Photoshop, Midjourney, DALL-E и других редакторов может говорить о том, что изображение было создано или обработано с помощью ИИ», — поясняет он.

Кроме анализа метаданных существуют и другие инструменты, которые помогают определить происхождение изображения.

«OpenAI Verify способен обнаружить цифровые метки C2PA и водяные знаки SynthID, если изображение было создано инструментами OpenAI. Кроме того, существуют специализированные AI-детекторы — Hive Moderation, AI or Not, Illuminarty, а также сервисы обратного поиска изображений Google Lens, TinEye и «Яндекс.Картинки», которые помогают найти возможный оригинал фотографии», — отмечает специалист.

Если возникают сомнения в подлинности видео, используются другие инструменты. Например, Deepware Scanner анализирует ролики на признаки дипфейка, а расширение InVID & WeVerify позволяет разбить видео на отдельные кадры и проверить их.

При этом, подчеркивает Владислав Цой, ни один сервис пока не способен гарантировать стопроцентную точность.

Человеческий взгляд иногда уже проигрывает машине

Заместитель председателя Ассоциации по развитию искусственного интеллекта Казахстана Анар Тулеубаева отмечает, что качество современных генеративных моделей выросло настолько, что привычные признаки подделки постепенно исчезают.

«Если раньше генеративные модели допускали очевидные ошибки — лишние пальцы, неестественную анатомию или странные позы, то сегодня они стали настолько убедительными, что человеческий взгляд иногда уже проигрывает машине. Тем не менее характерные маркеры по-прежнему существуют», — говорит она.

По словам эксперта, один из главных признаков — физика освещения.

«ИИ нередко делает границу между человеком и фоном слишком четкой, практически идеальной. В реальной фотографии всегда присутствуют атмосферная дымка, глубина и небольшое рассеивание света. Именно этих мелочей часто не хватает искусственной генерации», — объясняет Тулеубаева.

Еще один признак, на который стоит обратить внимание, — повторяющиеся текстуры. Например, брусчатка, трава или другие элементы могут выглядеть слишком однообразными, словно повторяющийся шаблон.

Однако, и этого не всегда достаточно. По словам Анар Тулеубаевой, сегодня существует множество инструментов для выявления подделок. Среди наиболее популярных — Hive Moderation, AI or Not, Content Credentials (C2PA), FotoForensics и ELA (Error Level Analysis).

«Большинство детекторов работают по трем принципам. Первый — анализ статистических следов в пикселях: любая нейросеть оставляет микропаттерны, незаметные человеку, но распознаваемые алгоритмами. Второй — анализ ошибок сжатия изображения: склеенные или отредактированные области «светятся» иначе, чем оригинальные. Третий — проверка криптографической подписи C2PA. Камера или приложение при съемке могут встроить в файл верифицированную информацию о происхождении изображения — кем, когда и на каком устройстве оно было создано», — рассказывает она.

При этом универсального решения пока не существует.

«Важно понимать, что ни один детектор сегодня не дает стопроцентной гарантии. Современные модели уже учатся обходить подобные системы распознавания. Поэтому критическое мышление и визуальный анализ остаются первой линией защиты, а цифровые инструменты — второй», — подчеркивает собеседница.

Доверие становится новой ценностью

По мнению Анар Тулеубаевой, проблема давно вышла за рамки технологий.

«Мы входим в период, когда цифровое доверие становится инфраструктурным вопросом, не менее важным, чем кибербезопасность. Умение критически оценивать изображения постепенно становится базовым навыком современного человека», — считает она.

По ее словам, вопросам AI-грамотности сегодня необходимо уделять значительно больше внимания.

«В Казахстане медиаграмотность в части работы с ИИ-контентом пока остается недооцененной. Ни в школьных программах, ни в редакционных стандартах этому пока не уделяется системного внимания. Именно поэтому мы развиваем направление AI-грамотности — сегодня умение проверять изображения становится таким же важным, как привычка проверять источник информации», — отмечает Тулеубаева.

Ранее редакция NoFake.kz провела эксперимент с использованием нейросети и показала, как за считанные минуты можно создать реалистичное видео, которое многие пользователи принимают за настоящее.