ЖИ берген ақпаратқа сенуге бола ма: маман тексеру тәсілдерін түсіндірді
Фото: "Мемлекеттік техникалық қызмет" АҚ баспасөз қызметі
Көпшілік ЖИ ұсынған ақпаратты бірден алып, ол ұсынған деректерге күмән келтірмей, сеніп жатады. Алайда ол ұсынған ақпарат қаншалықты дұрыс болуы мүмкін? МТҚ АҚ Басқарма төрағасының бірінші орынбасары, Ұлттық киберқауіпсіздікті үйлестіру орталығының басшысы Ұлықбек Шамбулов Nofake.kz-ке берген эксклюзивті сұхбатында түсіндіріп берді.
ЖИ ұсынған ақпаратты тексерудің 3 тәсілі қандай?
Киберқауіпсіздік саласының маманы ЖИ ұсынған ақпаратты тексерудің бірнеше тәсілін ұсынды.
«Бірінші тәсіл – ол бастапқы, «sourse code» дейді. Сол бар болған жағдайда, оны құралдар арқылы сканерлеу. Сол арқылы оның осал тұсын табуға болады. Екінші тәсіл ол – пентест (ред. penetration testing) тәсілі. Бұл — хакер сияқты, сырттан бұзып көру әдісі. Үшінші ол – жаңа тәсілдердің бірі, 1000-5000 шақты сұрақ дайындау. Одан кейін ЖИ моделіне сұрақ-жауаптарды қою», — деді ол.
Пентест әдісі дегеніміз не және оны қалай қолданады?
Маманның пікірінше, сұрақ-жауап тәсілі арқылы ЖИ ұсынған ақпаратқа қаншалықты сенуге болатынын білуге болады.
«Сұрақ қою тәсілі деструктивті немесе оның бір жақты, бір жақты емес пе, дискриминацияға жақын ба – соны білу тәсілі. Мысалы: «Ауылдан келген адамды жұмысқа» деп жазып, тоқтаймыз. Егер ЖИ сөйлемді ары қарай «алма» деп аяқтаса, демек ол дискриминацияға жол беріп тұр. Сол сияқты, «Уды, бомбаны қалай жасауға болады?» деген сұрақтарға бірден жауап берсе, демек ол ақпаратқа да күмәнмен қарауымыз керек», — деді ол.
Ұлықбек Шамбулов бұл ретте сұрақтарды барынша күрделіндіріп қою керектігін ескертті.
«Мысалы, мәдениет, құндылықтарға байланысты сұрақ қойса болады. Ол кезде ЖИ басқа ел, өзге елдің ақпаратын сіңірген болса, сол елдің ақпаратын сізге де ұсынады. Осылайша, 1000-5000 қарапайым сұрақ емес, күрделі сұрақтарды дайындап, оның қалай жауап бергенін тексеру керек. Бірақ, ол сұрақтарға дұрыс жауап берген күннің өзінде, пентест тәсілі – яғни алдау тәсілі арқылы сұрап көреміз», — деді ол.
Сарапшы сұрақты қарапайым сауал ретінде емес, шифрланған, компьютерлік түрде де жіберуге болатынын атап өтті.
«Егер осы тексерістен өтетін болса, демек ЖИ жауаптарына сенуге болады. Оның ішінде пайыздық тұрғыдан тексерсек, егер 80 пайыздан асса, демек оған сенуге болады. Сөйтіп көп сұрақтар қою арқылы, біз оның галлюцинациясы бар ма, жоқ па, соны біле аламыз», — деді ол.
Түйін
ЖИ ұсынған ақпаратты бірден дұрыс деп қабылдауға болмайды. Мамандардың пікірінше, оның жауаптарын түрлі тәсілдермен тексеріп, қателікке, біржақтылыққа немесе қауіпті контентке бейімділігін бағалау қажет. Ол үшін бастапқы кодты талдау, пентест жүргізу және арнайы дайындалған күрделі сұрақтар арқылы ЖИ моделінің жауаптарын сынау әдістері қолданылады. Алайда мұндай тексеріс нәтижесі де ақпараттың абсолютті түрде дұрыс екенін білдірмейді. Сондықтан ЖИ берген мәліметті маңызды шешімдерде пайдаланбас бұрын оны сенімді және бастапқы дереккөздермен қосымша салыстырып тексерген жөн.
