ChatGPT пайдаланушыларға қауіпті биологиялық ақпарат берген
Фото: Depositphotos
ChatGPT-тің кейбір пайдаланушылардың биологиялық қару мен улы заттарға қатысты қауіпті сұрақтарына жауап бергені анықталды. Жасанды интеллект ұсынған ақпараттың бір бөлігін кейін мамандар тексеріп, оның шынайы қауіп төндіруі мүмкін екенін айтқан, деп хабарлайды NoFake.kz The Wall Street Journal зерттеуіне сілтеме жасап.
The Wall Street Journal дерегінше, OpenAI модельдерінің мүмкіндіктері артқаннан кейін әлемнің әр түкпіріндегі жүздеген пайдаланушы ChatGPT-тен биологиялық қару, патогендер мен улы заттарға қатысты ақпарат сұрай бастаған. Кей жағдайда чат-боттың қауіпсіздік шектеулерін айналып өтіп, қауіпті сипаттағы ақпарат алу мүмкін болған.
Басылым мәліметінше, кейін кейбір диалогтарды биология және терроризмге қарсы іс-қимыл саласындағы мамандар зерттеген.
«WSJ дереккөздерінің айтуынша, сарапшылар ChatGPT берген жекелеген жауаптардағы ақпаратты қауіпті деңгейде нақты деп бағалаған. OpenAI өкілдері мұндай сұраулардың басым бөлігі әртүрлі улы заттарға қатысты болғанын мәлімдеді», – делінген материалда.
WSJ зерттеуінде пайдаланушылардың патогендерді қауіпті мақсатта қолдану, вирустардың қасиеттерін өзгерту және улы заттар алу жолдары туралы сұраған жағдайлары сипатталған. Кейбір сұрауларға ChatGPT егжей-тегжейлі жауап берген.
OpenAI өз кезегінде модельдердің адамдарға зиян келтіруге бағытталған нұсқаулықтар мен жоспарларды бермеуі үшін қорғаныс тетіктерін қолданатынын мәлімдеді.
«Біз модельдерімізді адамдарға зиян келтіруге арналған нұсқаулықтар мен жоспарларды бермеуге үйретеміз. Жаңа модельдерді іске қоспас бұрын қауіпсіздік сынақтарын жүргізіп, қауіпті биологиялық ақпарат алуға бағытталған әрекеттерді анықтау және тоқтату шараларын қолданамыз», – деп мәлімдеді OpenAI.
Компания ережені бұзған бірқатар пайдаланушының аккаунтын бұғаттаған. OpenAI мәліметінше, егер диалог басқа адамдарға төнетін қауіптің нақты әрі жақын екенін көрсетсе, компания құқық қорғау органдарына хабарлай алады. Бұған дейін OpenAI биологиялық қауіптерден қорғану бағытындағы бағдарламаларын күшейтіп жатқанын хабарлаған. Компания жасанды интеллектінің биология саласындағы мүмкіндіктері медицина мен ғылыми зерттеулерге көмектесе алатынын, сонымен бірге мұндай технологиялардың биологиялық қауіпсіздікке қатысты тәуекелдері де бар екенін атап өткен.
