ЖИ агенттердің жұмысына шектеу қою керек – аустралиялық профессор
Коллаж: NoFake.kz
Жасынды интеллект агенттері өзге ақпараттық жүйелерден мәлімет іздегенде оларға қауіп төндіруі мүмкін. Аустралиядағы Эдит Коуэн университетінің профессоры Пол Хаскелл-Доулендтің пікірінше, ЖИ агенттерінің жұмысына шектеу қою керек, деп хабарлайды NoFake.kz.
Редакциямызға эксклюзив сұхбат берген профессор Пол Хаскелл-Доуленд ЖИ агенттері тапсырманы орындау барысында қауіпті әрекет жасауы мүмкін және бұл — киберқауіптің жаңа кезеңі деп отыр.
«Компаниялар мен мемлекеттік органдар цифрлық қызметтерге белсенді түрде көше бастағанда, киберқылмыскерлердің де оларға назар аударып, шабуыл жасауы сөзсіз еді», — деді Пол Хаскелл-Доуленд.
Оның пікірінше, ЖИ агенттері белгілі бір дәрежеде өз бетінше әрекет ете алатындықтан, олардың жұмысына нақты шектеулер қою қажет.
«Сондықтан белгілі бір дәрежеде дербес әрекет ете алатын және киберқылмысқа ұқсас әрекеттер жасайтын ЖИ агенттерінің пайда болуы — киберқауіптердің дамуындағы кезекті кезең. Жақын арада бұдан да жаңа қауіп пайда болатынына күмәнім жоқ», — деді профессор.
ЖИ-ге берілген тапсырмалар нақты болуы керек
Профессордың айтуынша, ЖИ-ге заңды тапсырма берілгенімен, оны орындау тәсілі қауіп тудыруы мүмкін. Мысалы, агентке ресми сайттардан ақпарат жинау тапсырылса, ол қосымша мәлімет алудың басқа жолдарын да іздеуі ықтимал.
«Мен бұл агенттердің әрекетін ақтап отырғаным жоқ. Бірақ оларға қандай тапсырма бергенімізді де ойлануымыз керек», — деді ол.
Профессор OpenAI компаниясы ЖИ агентінің Аустралиядағы Medicare мемлекеттік порталына рұқсатсыз кіргеніне қатысты да пікір білдірді. Хаскелл-Доулендтің сөзінше, Medicare порталына қатысты оқиғаның барлық мән-жайы әзірге белгісіз. Сондықтан агенттің нақты қалай әрекет еткенін анықтамай тұрып, оның заң бұзғанын кесіп айтуға болмайды. Сонымен қатар профессор ақпараттың неге тиісті деңгейде қорғалмағанын да анықтау қажет деп санайды.
«Егер ақпарат көпшілікке арналмаған болса, ол неге мұндай жүйелерде сақталған? Егер деректер тек белгілі бір пайдаланушыларға ғана қолжетімді болса, неге олар жақсы қорғалмаған? Мәселенің осы жағын да ескеру қажет», — деді ол.
Профессор бастапқыда тапсырма заңды болғанымен, оны орындау үшін қолданылған барлық тәсіл қауіпсіз дегенді білдірмейтінін атап өтті.
«Егер біз жасанды интеллект агентіне жай ғана “Ашық дереккөздерден ақпарат жина” десек, кейін оны кінәлауға осы нұсқау жеткілікті ме? Өйткені ол ақпаратты жалпыға қолжетімді серверден тапты. Бұл мәліметтер бірден көрінбеуі мүмкін, бірақ агент оларға қол жеткізудің жолын тапты», — деп түсіндірді Хаскелл-Доуленд.
Оның пікірінше, ЖИ агенттеріне тапсырма беретін мамандар тыйым салынған әрекеттерді де нақты көрсетуі керек.
«Сондықтан жасанды интеллектті қалай пайдаланатынымызды әлдеқайда нақты анықтауымыз керек. Шектеулерді дұрыс белгілеп, оның әрекеттерін мұқият бақылап, туындауы мүмкін салдармен күресуді үйренуіміз қажет», — деді профессор.
Профессор Хаскелл-Доуленд заңды компаниялар ЖИ әзірлеу кезінде қауіпсіздік талаптарын сақтауға тырысатынын, бірақ қылмыстық топтардан мұны күтуге болмайтынын ескертті.
«Бірақ қарсыластарымыз да этикалық нормаларды сақтайды немесе қандай да бір шектеулер енгізеді деп күтуге ешқандай негіз жоқ. Өйткені олардың мақсаты — деректерді ұрлау, ақпарат жинау және жүйелердің осал тұстарын пайдалану», — деді ол.
Профессордың пікірінше, қылмыстық топтардың жетілдірілген ЖИ технологияларына қол жеткізуі кибершабуыл қаупін арттыруы мүмкін. Маман сондықтан осы технологиялар арқылы нақты кибершабуылдардың жасалуын уақыт мәселесі ғана деді.
ЖИ технологияларын реттейтін заң әлсіз
Аустралиялық ғалым ЖИ технологияларының даму қарқыны заңнамадан озып бара жатқаны растады.
« Мемлекеттік реттеу мен заңнаманың жасанды интеллекттің даму қарқынына ілесуі іс жүзінде өте қиын. Бұған дейін де оның дамуын баяулату туралы ұсыныстар айтылды. Реттеуді күшейту жөнінде де пікірлер болды. Бірақ іс жүзінде мұндай шаралар технологияны заңды түрде әзірлейтін компанияларға ғана әсер етеді. OpenAI, Microsoft және Google сияқты компаниялар заң талаптарын орындайды. Оларға бұл ұнамауы да мүмкін», — деді Хаскелл-Доуленд.
Оның айтуынша, OpenAI, Microsoft және Google сияқты компаниялардың қызметін заң арқылы реттеуге болғанымен, бұл талаптар киберқылмыскерлерге әсер етпеуі мүмкін.
«Бірақ қылмыскерлер заңға бағынбайды. Олар — қылмыскерлер ғой. Киберқылмыскерлер үшін мұның ешқандай маңызы жоқ. Оларды кез келген қылмыстық әрекет арқылы тез ақша табу мүмкіндігі ғана қызықтырады», — деп түсіндірді профессор.
Сондықтан оның пікірінше, ЖИ-ге шектеу қоюмен қатар, жасалуы мүмкін шабуылдарды анықтау және олардан қорғану жүйелерін де жетілдіру қажет.
«Мұндай шаралар маңызды болғанымен, біз енді жасалатын кибершабуылдарды қалай тиімдірек анықтауға және олардан қалай қорғануға болатынын да ойластыруымыз керек», — деп түйіндеді Пол Хаскелл-Доуленд.
Айта кетейік, профессор редакциямызға берген бұған дейінгі сұхбатында Аустралияда кибералаяқтыққа банктер мен байланыс операторлары да жауап беретіні жайлы айтқан болатын.
