OpenAI-дың ЖИ-агенті Аустралия үкіметінің сайтына рұқсатсыз кірген

OpenAI компаниясының жасанды интеллект агенті Аустралия үкіметінің Medicare статистикасы порталына рұқсатсыз кіріп, ашық емес файлдарға қол жеткізген. Бұл туралы Аустралия премьер-министрі Энтони Албанезе Нью-Йоркте өткен баспасөз мәслихатында мәлімдеді.

Оқиға 18 маусымда болған. Албанезенің айтуынша, OpenAI зерттеу тобы дәрі-дәрмекке жұмсалатын мемлекеттік шығындар туралы ақпарат жинау үшін ішкі ЖИ моделін пайдаланған.

ЖИ-агент Аустралияның Services Australia мекемесі басқаратын Medicare статистикасы порталына жүгінген. Жүйе ақпаратқа қол жеткізуге бірнеше рет шектеу қойғанымен, агент жұмысын тоқтатпаған.

«ЖИ-агент бұл бұғаттауларды айналып өтудің жолын тапты. Былайша айтқанда, ол «жоқ» деген жауапты қабылдамады. Модель қажетті ақпаратты алудың балама жолдарын іздеді, соның салдарынан басқа бөлімдерге рұқсатсыз қол жеткізді», — деді Энтони Албанезе.

Премьер-министрдің сөзінше, агент порталдағы жалпыға қолжетімді және жабық ақпаратқа кірген. Services Australia мәліметі бойынша, ЖИ ішкі серверге файлдар да жазған. Қазір бұл әрекеттер қосымша тексеріліп жатыр.

Жеке деректерге қол жеткізілген бе?

Medicare Statistics Reporting Portal — медициналық қызметтерге жұмсалатын шығындар мен басқа да статистикалық мәліметтер қамтылған портал. Аустралия билігінің қазіргі қолындағы деректер бойынша, азаматтардың жеке ақпаратына қол жеткізілгені анықталмаған.

«Қазіргі кезеңде жеке ақпаратқа қол жеткізілді деуге негіз жоқ, бірақ тергеу жалғасып жатыр. Қолда бар деректер Services Australia желісіне бұдан ауқымды шабуыл жасалғанын көрсетпейді. Дегенмен бұл жағдайды қабылдауға болмайды», — деді Аустралия премьер-министрі.

Оқиғаға байланысты цифрлық-криминалистикалық тергеу басталды. Оған Аустралияның киберқауіпсіздік саласына жауапты Australian Signals Directorate мекемесі де қатысып жатыр.

OpenAI үш айға жуық уақыттан кейін хабарлаған

Оқиғаның тағы бір маңызды тұсы — Аустралия билігіне ақпараттың кеш жетуі. ЖИ-агент порталға 18 маусымда кірген, ал OpenAI бұл туралы тек 10 қыркүйекте хабарлаған. Оның үстіне компания хабарламаны арнайы ресми арна арқылы емес, жалпыға қолжетімді электронды пошта жәшіктеріне жіберген.

«Мәселе екеуінде де болды. Біріншіден, кешіктірілді. Хабарлама тек 10 қыркүйекте келді. Оның өзі жалпыға қолжетімді электронды пошта жәшіктеріне жіберілген», — деді Албанезе.

Премьер-министр OpenAI бас директоры Сэм Альтманмен сөйлесіп, Аустралияның бұл жағдайға қатты алаңдап отырғанын жеткізген. Албанезенің айтуынша, Альтман компанияның бұл жағдайда тиісті деңгейде әрекет етпегенін мойындаған.

Аустралия оқиғаны арнайы тексереді

Аустралия үкіметі оқиғаны зерттейтін арнайы жұмыс тобын құратынын жариялады. Ол ЖИ-мен байланысты осындай киберинциденттерге қолданыстағы қауіпсіздік тетіктері қаншалықты дайын екенін тексермек. Сондай-ақ билік қандай да бір заң бұзушылық болған-болмағанын және істі Аустралия федералдық полициясына беру қажеттігін анықтайды. Тергеу барысында алынған ақпарат елдегі жасанды интеллект стандарттарын әзірлеу кезінде де ескерілмек.

Албанезе бұл оқиға жасанды интеллект мүмкіндіктерімен қатар жаңа қауіптердің де пайда болғанын көрсететінін айтты.

«Біз жасанды интеллект бізді емес, біз жасанды интеллектіні қалыптастыратынымызға көз жеткізуіміз керек. Қарапайым тілмен айтқанда, бақылау адамның қолында қалуға тиіс», — деді ол.

Аустралия үкіметі енді оқиғаның нақты ауқымын, басқа мемлекеттік жүйелерге әсер еткен-етпегенін және заң бұзушылық белгілерінің бар-жоғын анықтамақ. Тергеу қорытындысы елде жасанды интеллектіні қолдану стандарттарын әзірлеу кезінде де ескерілмек. Әзірге билік азаматтардың жеке деректеріне қол жеткізілгенін растайтын дәлел жоғын мәлімдеп отыр.