Опасность за экраном: как ИИ меняет угрозы для детей в интернете

ЮНИСЕФ заявила, что доступность генеративных технологий упростила создание поддельных фото и видео, из-за чего дети стали более уязвимы в интернете.

Ко Всемирному дню безопасного интернета Детский фонд ООН (ЮНИСЕФ) опубликовал аналитическую записку о том, как генеративный искусственный интеллект меняет угрозы для детей в сети.

В организации отмечают, что ещё недавно для изготовления реалистичных фальсификаций требовались специальные навыки и оборудование. Теперь подобный контент можно создать с помощью доступных онлайн-сервисов и даже обычного смартфона.

По данным ЮНИСЕФ, более миллиона детей в разных странах уже сообщали, что их фотографии подвергались цифровым манипуляциям. Даже если такие материалы являются фейком, они способны привести к травле, шантажу и серьёзным психологическим последствиям.

Исследование KazKidsOnline в Казахстане показывает: почти половина детей впервые выходит в интернет в возрасте от 5 до 8 лет. При этом многие несовершеннолетние не рассказывают взрослым о неприятных ситуациях онлайн или делятся ими только со сверстниками, из-за чего помощь часто запаздывает.

Эксперты предупреждают, что в условиях распространения генеративного ИИ даже обычные фотографии из социальных сетей могут стать исходным материалом для создания нежелательного контента. Поэтому защита ребёнка зависит не только от технических ограничений, но и от доверительного общения в семье и школе.

Представитель ЮНИСЕФ в Казахстане Рашед Мустафа Сарвар подчеркнул, что цифровая среда даёт детям большие возможности, однако требует новых подходов к безопасности.

«Мы не можем остановить прогресс, но обязаны сделать его безопасным для каждого ребёнка. Это общая ответственность родителей, педагогов, IT-индустрии и общества — повышать цифровую грамотность, объяснять риски и создавать среду, в которой дети не боятся обращаться за помощью», — подчеркнул он.

В ЮНИСЕФ отмечают, что ключевую роль играет внимание взрослых к онлайн-жизни ребёнка и понимание того, как работают современные технологии. Только в этом случае цифровая среда будет помогать развитию, а не становиться источником угроз.