Как создают дипфейки для рекламы инвестиций и почему их трудно распознать
Коллаж: NoFake.kz
Для создания дипфейка мошенникам часто достаточно фотографии и нескольких секунд записи голоса. Даже специальные детекторы не всегда способны выявить подделку, а зритель не заметить обман, если предложение поступит от незнакомца.
Фото, голос и легенда: из чего собирают дипфейк
О том, как мошенники создают дипфейки для рекламы якобы прибыльных инвестиций, почему такие видео трудно распознать и как проверять сомнительные предложения, корреспонденту NoFake.kz рассказал профессор департамента цифровой безопасности EURECOM во Франции Жан-Люк Дюжеле. Его работа связана с анализом цифровых изображений и видео, биометрией, распознаванием лиц, видеонаблюдением и цифровой экспертизой. Поэтому он рассматривает дипфейки не как абстрактную угрозу, а как технологию, создание которой можно разобрать по отдельным этапам.
По словам эксперта, создание поддельного инвестиционного видео начинается с подбора исходных материалов.
«Если мошенники хотят сделать такое видео убедительным, им обычно достаточно одной хорошей фотографии лица и нескольких секунд записи голоса. После этого с помощью специального инструмента они могут “оживить” лицо на фото или сымитировать речь человека его же голосом», — отмечает Жан-Люк Дюжеле.
Техническая часть создания дипфейка сегодня уже не требует сложной подготовки. Фото и видео можно обработать с помощью общедоступных инструментов. С голосом сложнее: его нужно сымитировать и точно совместить с движением губ. Ещё труднее создать такую подделку в реальном времени. Но даже эти технические барьеры уже не являются главным препятствием для мошенников.
«Создать простой, грубый дипфейк сегодня уже достаточно легко. Для человека, который хочет совершить мошенничество, главная сложность уже не в создании самого дипфейка, а в поиске убедительного сценария. Ему нужно понять, какую историю рассказать, когда обратиться к человеку и какие аргументы использовать. Например, если вы просите деньги, то на каком основании? Вы представляетесь директором компании? Или родственником?» — говорит эксперт.
Почему даже детекторы могут ошибаться
Жан-Люк Дюжеле называет несколько причин, по которым платформам до сих пор трудно бороться с инвестиционными мошенническими схемами с использованием дипфейков. Выявление таких подделок требует дополнительных затрат, но даже они не дают полной гарантии.
«Если компании хотят внедрять системы обнаружения дипфейков, им нужно покупать специальные детекторы или инвестировать в такие инструменты. Но даже в этом случае невозможно обеспечить полную безопасность, потому что эти технологии далеки от совершенства. Даже лучший детектор или набор детекторов может ошибаться. В этом и заключается проблема», — поясняет он.
Если даже специальные системы могут ошибаться при проверке дипфейк-видео, обычному пользователю тем более трудно понять, настоящее перед ним видео или нет. Однако современные ИИ-инструменты всё ещё не способны полностью воспроизвести особенности поведения реального человека.
Профессор объясняет, что злоумышленники «оживляют» лицо на фото двумя способами: используют движения другого человека или генерируют искусственную анимацию по текстовому запросу. В обоих случаях это не будет точным воспроизведением мимики конкретного человека.
«У каждого человека есть свои особенности: как он улыбается, как говорит, как смотрит. Эти детали часто не воспроизводятся. Поэтому видео может быть похоже на вас, но не полностью. Особенно это заметно, если вы хорошо знаете человека. Если же вы видели его всего несколько раз или вообще не знакомы лично, распознать подделку по мимике будет очень сложно», — говорит Жан-Люк Дюжеле.
Если общение идёт в переписке или по видеосвязи с малознакомым или незнакомым человеком, мимика уже мало помогает. В таком случае эксперт советует искать другие признаки. В частности, в роликах стоит обратить внимание, совпадает ли движение губ с речью. Видео и звук часто создаются отдельно, а затем соединяются. Поэтому голос может звучать убедительно, но движения губ не всегда совпадают с речью.
Как проверить собеседника и не попасться на уловки мошенников
«Лучший способ распознать подделку связан не столько с самим аудио или видео, сколько с контекстом. Нужно задать вопрос, на который настоящий человек должен знать ответ. Например, в переписке можно задать личный вопрос: о вашей компании, о последней встрече с этим человеком, о чём-то, что должен знать только настоящий собеседник. Во время видеозвонка можно попросить человека выполнить простое действие: посмотреть влево или вправо», — пояснил он.
Однако безопасность не должна зависеть только от способности распознать дипфейк. По словам Жан-Люка Дюжеле, при звонках и видеосвязи с обещаниями выгодных вложений действует тот же принцип, что и с подозрительными письмами.
«Если вы получаете подозрительное письмо, где просят позвонить по указанному номеру или связаться с банком, вы же не отвечаете напрямую. Вы сами звоните в банк по официальному номеру. Здесь действует тот же принцип. Если кто-то по телефону просит перевести деньги и обещает, что благодаря этому вы разбогатеете, попросите этого человека дать WhatsApp или электронную почту. Используйте электронную почту, если с вами связались по SMS, и наоборот. Так злоумышленнику придётся предоставить о себе дополнительную информацию», — подытожил Жан-Люк Дюжеле.
По словам эксперта, важно не действовать по правилам, которые навязывает собеседник. Пауза и переход на другой канал связи дают возможность спокойно оценить ситуацию и не принимать решение под давлением.
Ранее NoFake.kz рассказывал о синтетических личностях — цифровых образах и аккаунтах, созданных с помощью ИИ. По словам исследовательницы Ширин Анлен, современные технологии позволяют масштабировать их использование, превращая такие инструменты в новый способ воздействия на аудиторию.
