Дипфейки и мошенничество: сенаторы требуют наказания за обман с помощью ИИ
Фото: Сенат баспасөз қызметі
В Сенате депутаты и чиновники обсудили законопроект «Об искусственном интеллекте» и сопутствующие ему документы. В ходе дискуссии они подняли вопрос необходимости ужесточения мер против борьбы с дипфейками, передает nofake.kz/.
С распространением технологий искусственного интеллекта в Казахстане растет и число новых угроз. Депутат Сената Серик Шайдаров отметил, что дипфейки уже стали инструментом мошенников: злоумышленники используют поддельные видео и голоса, чтобы выманивать деньги у людей. Он подчеркнул, что сегодня даже эксперты с трудом отличают фальшивку от реальности.
«Мы уже сегодня видим, как в социальных сетях и в различных мессенджерах создаются фальшивые видеоролики с участием известных людей. В связи с этим у меня вопрос: «Как вы планируете отслеживать и предотвращать распространение дипфейков?», — спросил он у представителей Министерства искусственного интеллекта и цифрового развития.
Вице-министр искусственного интеллекта и цифрового развития Дмитрий Мун пояснил, что в новом законе об ИИ предусмотрено обязательное маркирование контента, созданного нейросетями. Это должно осложнить повторное использование таких материалов для обмана. Также совместно с другими госорганами ведется работа по регулированию ввоза «сим-боксов» — устройств, через которые мошенники совершают тысячи вызовов.
«В нашем законе учитываются обязательные требования по маркировке контента для того, чтобы нельзя было его переиспользовать для создания дипфейков. И соответствующие требования и регулирование его переиспользования будут внедрены в рамках КОАПа, УПК и УК», — пояснил Дмитрий Мун.
Председатель Сената Маулен Ашимбаев акцентировал внимание на том, что проблема выходит далеко за рамки телефонного мошенничества. По его словам, дипфейки становятся инструментом информационных манипуляций, дискредитации известных личностей и даже провокаций.
«Это только первые звоночки. Дальше по мере развития технологий с использованием искусственного интеллекта это будет достаточно серьёзная проблема. Видимо, уже нужно совместно с правоохранительными органами в целом думать о вопросах ответственности. Эти же вещи делают люди. Не сами же программы с искусственным интеллектом генерируют такой контент. И именно их привлекать к ответственности за мошенничество, шантаж или незаконный сбор денег и так далее. Я думаю, что мы не должны затягивать с принятием соответствующих решений», — заявил он.
Депутат Мажилиса Екатерина Смышляева добавила, что сегодня экспертиза по выявлению дипфейков пока слабо развита, а существующие системы не всегда способны автоматически распознать подделку. Поэтому в законодательстве Казахстана планируется усилить ответственность не за сам факт создания дипфейка, а за противоправные действия, совершенные с его помощью — мошенничество, шантаж, сбор денег или распространение дезинформации.
Смышляева резюмировала, что в Уголовный кодекс уже предлагаются поправки. В частности, расширяется понятие «объект информатизации», чтобы охватить не только информационные системы, но и современные технологии искусственного интеллекта. Это позволит квалифицировать преступления с применением ИИ как совершённые с отягчающими обстоятельствами.
