Meta отключила ИИ-функцию для создания дипфейков после жалоб пользователей
Фото: Depositphotos
Пользователи платформы заявили, что новый инструмент позволял создавать реалистичные изображения на основе чужих фотографий без согласия их владельцев.
Компания Meta отключила новую функцию искусственного интеллекта, позволявшую создавать изображения с использованием фотографий из публичных аккаунтов Instagram. Решение было принято спустя несколько дней после запуска после волны критики со стороны пользователей, экспертов по цифровой безопасности и правозащитных организаций.
Спорная функция была частью нового генератора изображений Muse Image, разработанного подразделением Meta Superintelligence Labs. Она позволяла пользователям создавать ИИ-изображения, используя фотографии из открытых аккаунтов Instagram. Для этого достаточно было упомянуть публичный аккаунт в запросе к Meta AI. При этом владельцы фотографий не получали уведомлений о том, что их изображения используются для генерации нового контента.
Такая возможность вызвала обеспокоенность пользователей, поскольку фактически открывала возможность создавать реалистичные поддельные изображения — дипфейки — без согласия человека. С критикой также выступили представители индустрии развлечений и профсоюз актеров SAG-AFTRA, заявившие, что подобные инструменты должны работать только при наличии явного согласия владельцев изображений.
После общественного резонанса Meta объявила об отключении функции.
«Наша цель заключалась в том, чтобы предоставить полезный творческий инструмент и дать людям возможность контролировать, может ли их публичный контент использоваться таким образом. Мы услышали отзывы пользователей и поняли, что эта функция не оправдала ожиданий, поэтому она больше недоступна», — отметили в компании.
Ситуация вокруг Muse Image стала еще одним примером того, что развитие генеративного искусственного интеллекта требует четких правил использования пользовательского контента и механизмов получения согласия. Использование фотографий без ведома их владельцев повышает риск создания дипфейков и распространения дезинформации.
