Минкультуры и информации внедряет ИИ для борьбы с дипфейками и противоправным контентом
Вице-министр культуры и информации Казахстана Евгений Кочетов в ходе «круглого стола» в Мажилисе на тему «Применение искусственного интеллекта в социальной сфере» рассказал о принимаемых в стране мерах по борьбе с фейками.
Он напомнил, что в своем Послании Глава государства подчеркнул важность развития культуры, искусства и информации в эпоху стремительного внедрения искусственного интеллекта.
«Сегодня мы видим, что искусственный интеллект несет в себе не только новые возможности, но и серьезные вызовы для сферы культуры и информации.
Технологии на основе искусственного интеллекта активно используются в мошеннических схемах: создаются поддельные голоса, видео и изображения, так называемые дипфейки. Растет объем противоправного контента в сети. Это требует от государства своевременной и эффективной реакции. Министерство культуры и информации уже предпринимает шаги в этом направлении», — заявил Евгений Кочетов.
Он отметил, что министерство разрабатывает цифровую инициативу, направленную на автоматическое выявление фейкового контента и определение дипфейков.
«Эта технология основана на искусственном интеллекте и уже показывает эффективность в борьбе с онлайн-наркоторговлей. Так, специальная система «МЕРГЕН», работающая на основе ИИ, автоматически мониторит информационное поле, выявляет интернет-магазины наркотиков по прямым и косвенным признакам и блокирует их. Только на этой неделе был закрыт 5000-й такой ресурс», — рассказал вице-министр.
Он сообщил, что сейчас обучается LLM-модель (языковая модель искусственного интеллекта, подготовленная на больших массивах текстов), в которую будут включены функции выявления дипфейков.
Кроме того, совершенствуется система правового мониторинга. С помощью искусственного интеллекта ведомство расширяет перечень тем, подлежащих мониторингу. Алгоритмы смогут анализировать контент, выявлять противоправные признаки и автоматически направлять его на блокировку. Эта работа уже внедряется на практике.
