Цифровые призраки TikTok: как синтетические аккаунты обманывают казахстанцев

В казахстанском TikTok распространяются аккаунты, созданные искусственным интеллектом. Эксперт Сауле Кайдагулова рассказала, как они работают и почему им доверяют.

Социальные сети вступили в новую фазу развития — эпоху синтетических аккаунтов. Это цифровые профили, созданные с помощью искусственного интеллекта и имитирующие реальных людей: с внешностью, биографией, личными историями и эмоциональным контентом. Такие аккаунты ведут блоги, публикуют видео, делятся «жизненными трудностями» и даже общаются с подписчиками. Для неподготовленного пользователя они почти неотличимы от настоящих людей.

Однако за красивыми историями часто скрываются алгоритмы генерации изображений, текстов и видео.

Сауле Кайдагулова, диджитал-продюсер с многолетним опытом работы в социальных медиа, говорит, что сталкивается с подобными аккаунтами практически ежедневно.

«Изначально нужно осознать и принять, что сейчас слишком много синтетических аккаунтов. Если отдавать себе в этом отчёт, мозг вряд ли станет верить всему, что видит на экране», — объясняет она.

По словам эксперта, такие профили могут выглядеть убедительно, но внимательный пользователь способен заметить признаки подделки.

«Конечно, и живые люди могут делать похожий контент, но это заняло бы слишком много времени и усилий. Поэтому некоторые детали сразу бросаются в глаза», — отмечает Кайдагулова.

На первый взгляд синтетический аккаунт почти не отличается от обычного блогерского профиля: фотографии, видео, личные истории, тысячи комментариев.

Но при внимательном просмотре начинают появляться странности.

Информация о человеке может быть минимальной или противоречивой: указан город проживания, но нет профессии, учёбы или понятной биографии. Описание профиля часто выглядит слишком обобщённым и лишено конкретики.

В таких случаях начинает работать «насмотренность» — способность замечать признаки генерации искусственного интеллекта.

«На некоторых видео “вырастают каблуки”, внезапно появляются аксессуары. Родинки могут то появляться, то исчезать. Надписи на зданиях, книгах или вывесках выглядят странно — иногда как набор букв», — говорит эксперт.

Фоны в таких роликах часто нейтральные и лишены опознавательных деталей. Это могут быть комнаты без характерных предметов, однотипные улицы или размытые пространства, где невозможно определить реальное место съёмки.

Кроме того, в кадре редко появляются случайные люди. Обычно в аккаунте присутствуют только два-три персонажа — те самые «герои», вокруг которых строится история.

При этом такие профили могут собирать сотни тысяч подписчиков и демонстрировать высокую вовлечённость аудитории.

История, которая должна зацепить

По словам экспертов, синтетические аккаунты почти всегда строятся вокруг определённой сюжетной линии.

«Чаще всего это необычный герой и трогательная история жизни — например, плод любви африканского папы и казахской мамы. Такой персонаж сталкивается с неприятием в детстве, буллингом, переездом или потерей работы и находится на этапе преодоления трудностей», — рассказывает Кайдагулова.

Подобные сценарии создаются не случайно. Они апеллируют к базовым эмоциям — сочувствию, любопытству и желанию следить за чужой судьбой.

«Страсть наблюдать за перипетиями чужой жизни, наверное, заложена в людях на генном уровне», — говорит эксперт.

Поэтому такие истории быстро становятся вирусными.

Особенно активно синтетические аккаунты используют темы, чувствительные для казахстанского общества: семья, уважение к старшим, национальная идентичность, благодарность и доброжелательность казахского народа.

Иногда такие аккаунты затрагивают и политические темы, формируя определённое отношение аудитории к событиям.

Каждый новый пост усиливает эмоциональную вовлечённость зрителя. Пользователь начинает следить за историей героя и ждать продолжения.

Алгоритмы TikTok устроены так, что часть контента попадается пользователям «случайно». На практике это контролируемый рандом — система рекомендаций, которая подбирает ролики на основе интересов аудитории.

Создатели синтетического контента используют это в своих интересах, публикуя разнообразные ролики, чтобы алгоритмы показывали их как можно большему числу пользователей.

«Кто-то да клюнет», — констатирует Кайдагулова.

Как TikTok пытается бороться с ИИ-контентом

По данным пресс-службы TikTok, платформа признаёт проблему синтетического контента и предпринимает меры для её решения.

Согласно правилам сервиса, авторы должны помечать контент, созданный или значительно изменённый с помощью искусственного интеллекта. Для этого предусмотрены автоматические метки и ручная маркировка.

Однако эксперт считают, что этого недостаточно. Система во многом опирается на добровольность со стороны авторов и автоматическое обнаружение. Но если весь аккаунт создан искусственным интеллектом — от фотографии профиля до биографии, — определить это значительно сложнее.

Судя по количеству подобных страниц, которые продолжают набирать аудиторию, проблема пока далека от окончательного решения.

Большинство пользователей практически не проверяет, кто стоит за тем или иным аккаунтом.

«Едва ли кто-то среди ночи, пролистав ленту и наткнувшись на интересный профиль, будет проверять его через специальные сервисы. Человек слишком ленив для этого — пока это не касается его денег, семьи или личных интересов», — говорит Кайдагулова.

Кроме того, многие инструменты распознавания ИИ-контента платные и требуют специальных знаний.

Поэтому гораздо эффективнее развивать собственную медиаграмотность и критическое мышление.

Зачем создают синтетические аккаунты

Причины создания подобных профилей могут быть разными.

Одна из самых распространённых — коммерческая. Некоторые аккаунты специально «выращивают», набирая подписчиков и активность, чтобы затем продать рекламодателям или другим пользователям. Другой вариант — мошеннические схемы. Через популярный аккаунт аудитории могут предлагать инвестиции, участие в проектах или финансовую помощь.

Также синтетические аккаунты могут использоваться в политических целях — для формирования нужной информационной повестки и создания иллюзии общественного мнения. Ещё одна цель — тестирование технологий влияния на аудиторию и сбор данных о поведении пользователей.

Как проверить, существует ли человек

Эксперт советует начать с простого — поиска цифрового следа.

«Это делается элементарно: Google помнит всё, даже то, что было удалено. Там всегда можно что-то найти», — объясняет Кайдагулова.

У реального человека обычно есть следы присутствия в интернете: старые фотографии, упоминания в других соцсетях, комментарии, публикации или участие в проектах. А у синтетического аккаунта такого следа, как правило, нет — вся его «жизнь» ограничена одной платформой.

Пока технологические компании совершенствуют алгоритмы обнаружения фейков, создатели синтетических аккаунтов также постоянно развивают свои методы.

Это своеобразная гонка технологий, в которой обычный пользователь часто оказывается самой уязвимой стороной. Пока искусственный интеллект продолжает развиваться, единственной надёжной защитой остаются критическое мышление, внимательность и базовая медиаграмотность.