Wikimedia OpenAI агенттерінің рұқсатсыз әрекеті туралы мәлімдеді

Wikimedia Foundation өз платформаларында OpenAI басқарады деп болжанған жасанды интеллект агенттерінің рұқсатсыз әрекеті анықталғанын мәлімдеді, деп хабарлайды NoFake.kz.

Қордың мәліметінше, ЖИ агенттері Wikimedia жобаларындағы уики-беттерге өзгеріс енгізген, Etherpad сервисін басқа сайттардан дерек алу үшін пайдалануға әрекет жасаған және платформаның сервистеріне миллиондаған автоматтандырылған сұрау жіберген.

«Wikimedia платформаларында OpenAI-дың осындай «рұқсат етілмеген» агенттерінің белгілі бір белсенділігі анықталғанын растай аламыз. Боттардың рұқсатсыз әрекеттеріне уики-беттерімізді өңдеу, біз орналастырған жалпыға қолжетімді жазба жүргізу құралын бұзуға бағытталған бірнеше сәтсіз әрекет және шамадан тыс трафик кірді», — делінген қор хабарламасында.

Wikimedia мәліметінше, ЖИ агенттері енгізген өзгерістердің барлығы дерлік көпшілікке көрінбейтін тестілік «құмсалғыш» аймақтарында жасалған. Сонымен қатар дәйексөз келтіру құралының конфигурациясына бірнеше өзгеріс енгізілген. Қор олардың кейбірі бұл құралды басқа сервистерден дерек алу үшін прокси ретінде пайдалануға бағытталған ықтимал зиянды әрекет болуы мүмкін деп санайды.

«OpenAI басқарады деп болжанған агенттер жалпыға қолжетімді Etherpad сервисін бұзуға бірнеше рет сәтсіз әрекет жасады. Олар оны басқа веб-сайттардан дерек алу үшін прокси ретінде пайдалануға тырысты», — делінген Wikimedia Foundation мәлімдемесінде.

Бұдан бөлек, ЖИ агенттері Wikimedia инфрақұрылымына айтарлықтай жүктеме түсірген. Олар қордың жалпыға қолжетімді API интерфейстеріне миллиондаған автоматтандырылған сұрау жіберіп, негізінен Wikidata және Wikimedia Commons жобаларындағы миллиондаған бетті сканерлеген. Wikidata Query Service (WQDS) сервисіне де жүздеген мың сұрау жолданған.

Wikimedia бұл трафик мамыр айында WQDS жұмысының ішінара істен шығуына ықпал етуі мүмкін екенін атап өтті. Алайда қор ЖИ агенттерінің әрекеті салдарынан Wikimedia жүйелері бұзылғанын немесе деректердің қолды болғанын растайтын дәлел таппаған.

«Жүйелеріміздің агенттер арасындағы әрекеттерді үйлестіру үшін пайдаланылғанына немесе жүйелеріміз бен деректеріміздің бұзылғанына ешқандай дәлел таппадық. Дегенмен бізді мұның ықтимал салдары, осы әрекеттерді зерттеу мен олардың себебін анықтаудың күрделілігі, сондай-ақ платформаларымыздағы ЖИ агенттерінің қызметіне байланысты тәуекелдердің артуы алаңдатады», — деп мәлімдеді Wikimedia Foundation.

Қор ЖИ әзірлеуші компаниялар өз агенттерінің әрекетін бақылап, олардың басқа платформаларға келтіруі мүмкін зиянның алдын алуға жауапты болуы керек деп есептейді. Wikimedia дерегінше, боттар белсенділігінің өсуіне байланысты 2024 жылдан бері өткізу қабілетін пайдалану 50%-ға артқан. Ал 2025 жылы Wikimedia жобаларындағы ресурсты ең көп қажет ететін трафиктің 65%-ы боттардың үлесіне тиген.

Wikipedia бүгінде 300-ден астам тілде 67 миллионнан астам мақаланы қамтиды және айына 15 миллиардқа дейін қаралым жинайды. Wikimedia Foundation мәліметінше, Wikipedia материалдары үлкен тілдік модельдерді (LLM) оқытуда қолданылатын негізгі ашық дереккөздердің бірі саналады.