Почему доверие к ChatGPT может сыграть против нас — объясняет исследователь
Иллюстрация: Depositphotos
Исследователь доверия к искусственному интеллекту Стив Локи рассказал NoFake.kz, почему убедительные ответы чат-ботов заставляют людей переставать проверять факты и чем это может быть опасно.
Искусственный интеллект стремительно становится частью повседневной жизни. Миллионы людей используют ChatGPT, Gemini, Claude и другие системы для работы, учёбы, поиска информации и даже принятия решений. Но вместе с ростом популярности ИИ усиливается и другая тенденция: пользователи настолько чаще стали доверять ему, что перестают проверять его ответы.
По словам доктора Стива Локи, исследователя доверия к искусственному интеллекту и ответственного использования ИИ из Melbourne Business School при Университете Мельбурна (Австралия), проблема гораздо серьёзнее, чем отдельные ошибки алгоритмов.
В 2025 году Локи стал одним из руководителей одного из крупнейших международных исследований доверия к ИИ. В опросе, проведённом Университетом Мельбурна совместно с KPMG, приняли участие более 48 тысяч человек из 47 стран.
Результаты оказались показательными. Сегодня искусственный интеллект регулярно используют 66% респондентов. При этом более половины признались, что не проверяют информацию, полученную от ИИ, прежде чем использовать её в работе, учёбе или повседневной жизни.
Почему системы далеко не безошибочны?
По словам Стива Локи, одной из самых известных проблем современных языковых моделей остаются так называемые «галлюцинации» — ситуации, когда ИИ выдаёт ложную информацию, но делает это настолько уверенно и убедительно, что пользователь не замечает подвоха.
«Модель, которая постоянно будет делать оговорки, говорить, что не уверена в ответе или чего-то не знает, покажет в таких тестах более низкий результат, чем модель, которая уверенно угадывает и иногда оказывается права. Иными словами, ей выгоднее иногда дать правильный ответ, уверенно угадывая, чем постоянно получать неправильный результат, отвечая: «Я не знаю». И, конечно, это создаёт свои проблемы», — поясняет Локи.
Проблема в том, что языковые модели не проверяют факты так, как это делает человек. Они не обладают встроенным пониманием истины.
Их задача — предсказать наиболее вероятную последовательность слов. Поэтому уверенный и логичный ответ вовсе не гарантирует, что он соответствует действительности.
И последствия уже заметны. В ходе исследований более половины сотрудников, использующих ИИ в работе, признались, что хотя бы раз допускали ошибки из-за рекомендаций или ответов искусственного интеллекта.
«Опасность не только в том, что система может ошибиться. Ещё хуже, когда человек принимает ошибочный ответ за правильный и использует его в реальной работе», — говорит исследователь.
Почему люди продолжают доверять ИИ?
По словам Локи, всё довольно просто, поскольку доверие напрямую связано с полезностью технологии. Если ИИ помогает быстро и эффективно решить задачу, уровень доверия растёт. Если результат разочаровывает — снижается. При этом решающую роль играет первый опыт взаимодействия с системой, который во многом определяет отношение пользователя к технологии в дальнейшем.
«Когда ChatGPT только появился и я впервые начал им пользоваться, я помню, насколько впечатлён был его возможностями. Даже сейчас я регулярно использую ИИ в работе и всё равно иногда ловлю себя на том, что снова оказываюсь очень впечатлён результатом», — рассказывает он.
Поэтому большинство пользователей начинают воспринимать искусственный интеллект как надёжного помощника. Как правило, первые запросы связаны с простыми задачами — написать письмо, придумать идею или объяснить сложную тему. В таких случаях система действительно показывает хорошие результаты, формируя ощущение, что ей можно доверять практически всегда. Однако, со временем это доверие может перерасти в переоценку возможностей технологии.
«Одним из способов решения проблемы исследователи называют так называемую «калибровку доверия» — формирование такого уровня доверия, который соответствует реальным возможностям системы», — считает Локи.
Но, подчёркивает исследователь, добиться этого можно не только за счёт совершенствования самих моделей. Не менее важна привычка пользователей критически оценивать полученные ответы и не принимать их автоматически за истину.
«Важно помнить, что даже если ответ звучит очень убедительно, логично и правдоподобно, он всё равно может оказаться неверным», — подчёркивает исследователь.
По мнению Локи, чрезмерное доверие к ИИ нередко связано не столько с самой технологией, сколько с условиями, в которых её используют. Когда сроки поджимают, а времени на дополнительную проверку нет, человек гораздо легче принимает ответ нейросети как готовое решение.
«Представьте ситуацию: сотруднику нужно срочно закончить проект до пяти часов вечера. Времени мало, задач много. Он загружает запрос в ChatGPT, получает ответ, быстро просматривает его и думает: «Выглядит отлично. Похоже, всё правильно». После чего отправляет результат дальше без дополнительной проверки», — приводит пример собеседник.
Именно поэтому, считает исследователь, организациям важно создавать условия, при которых сотрудники смогут проверять ответы ИИ, а не воспринимать их автоматически как истину.
Отдельную тревогу у учёного вызывает стремительное развитие генеративных технологий, создающих изображения, аудио и видео. Поддельный контент становится всё более реалистичным, и всё чаще одного взгляда на фотографию или видеозапись уже недостаточно, чтобы отличить подделку от оригинала. Однако и здесь, по словам Локи, важно не впасть в другую крайность.
«Если люди начнут сомневаться абсолютно во всём, общество столкнётся с другой проблемой — кризисом доверия. Постоянно проверять всё и не доверять ничему психологически очень тяжело. Поэтому задача не в том, чтобы перестать доверять технологиям. Задача — научиться доверять им разумно», — отмечает Локи.
По мнению исследователя, в этом и заключается главный вызов эпохи искусственного интеллекта. Сам по себе ИИ не отменяет необходимость критического мышления. Напротив, чем активнее такие технологии входят в повседневную жизнь, тем важнее становится умение оценивать достоверность информации и понимать пределы возможностей нейросетей.
