Дипфейкті анықтайтын ЖИ құралдары да қателесуі мүмкін – профессор

Дипфейкті анықтайтын алгоритмдер жалған нәтиже беруі мүмкін. Сондықтан видеоны тексергенде міндетті түрде адам бақылауы тиіс. Бұл туралы Біріккен Араб Әмірліктеріндегі Абу-Даби университетінің киберқауіпсіздік профессоры Шехзад Ашраф Чаудхари мәлімдеді, деп хабарлайды NoFake.kz

Назарбаев университетінде болып жатқан Side-2026 халықаралық конференциясына келген профессор Шехзад Ашраф Чаудхари редакциямызға жасанды интеллект арқылы жасалған дипфейктерді анықтауға арналған құралдар видеодағы техникалық сәйкессіздіктерді талдайтынын айтты. Алайда Чаудри мырза мұндай жүйелердің нәтижесіне толық сенуге болмайтынын алға тартады. Сарапшының пікірінше, контенттің шынайылығын тексергенде адамның бақылауы шешуші рөл ойнайды.

«Видеоны талдау кезінде көздің жыпылықтауына, ерін қимылы мен сөйлеудің сәйкестігіне, жарық пен көлеңкеге, сондай-ақ кескіннің өзге де техникалық ерекшеліктеріне назар аударылады. Әртүрлі видеоларда белгілі бір сәйкессіздіктер болуы мүмкін.Мысалы, гистограммадағы ауытқулар, корреляцияға қатысты мәселелер және жарықтандырудағы айырмашылықтар. Видеодағы кейбір бөліктер жарық болуы мүмкін, ал басқа тұстарында көлеңке басым болады», — дейді Абу-Даби университетінің профессоры Шехзад Ашраф Чаудхари.

Профессор осы факторлардың барлығы видеода ақау бар-жоғын немесе оның түпнұсқа екенін анықтауға мүмкіндік беретінін айтады.

«Жасанды интеллект пен ақпаратты тексеруге арналған басқа да құралдар қателесуі мүмкін. Олар жалған ақпаратты шынайы деп қабылдауы немесе керісінше, шынайы ақпаратты жалған деп тануы ықтимал. Сондықтан адамның тексеруі өте маңызды», – деп жауап берді ол.

Дауыс пен видеодағы техникалық белгілер де маңызды

Профессордың түсіндіруінше, видеоны тексеру кезінде оның қай камерамен түсірілгені, дыбыстың қалай жазылғаны және кадрлардағы жарық ерекшеліктері де ескерілуі мүмкін. Әртүрлі камера мен микрофонның өзіндік сипаттамасы бар. Бұл белгілер контенттің қалай жасалғанын анықтауға көмектеседі.

«Видеолар әртүрлі камерамен түсіріледі. Әр камераның және әр географиялық ортаның видеода өзіндік белгілері қалады. Бұл белгілер бір-бірінен ерекшеленеді. Мысалы, әр микрофонның өзіндік дыбыс беру ерекшеліктері бар. Әртүрлі микрофондар арқылы жазылған дауыс пен сөйлеу сипаттамалары бірдей болмауы мүмкін. Сондықтан кейде сөйлеу мәнерін, дауыс ырғағын талдау арқылы да видеода ақау бар-жоғын анықтауға болады», – деп түсіндірді профессор.

Оның айтуынша, цифрлық криминалистика саласында видеоны зерттеуге арналған арнайы құралдар бар. Олар кескіннің гистограммасын, кадрлар арасындағы корреляцияны және жарықтандыру ерекшеліктерін талдайды. Мұндай әдістер контентті тексеруге қосымша ақпарат береді. Дегенмен, технология ұсынған қорытындыны адамның қайта тексеруі қажет.

«Осындай талдаулардың барлығы қосымша мәлімет алуға көмектеседі. Дегенмен, түпкілікті шешім қабылдап, видеода ақау бар-жоғын анықтау жауапкершілігі адамның өзінде қалады», – дейді Шехзад Ашраф Чаудхари.

Ескі видеолардың түпнұсқасын қалай тексеруге болады?

Профессордың пікірінше, әлеуметтік желілерде қайта таралған немесе бұрын түсірілген видеоларды тексерудің бір жолы – олардың алғашқы жарияланған нұсқасын іздеу.

«Егер қайта таратылған немесе бұрын түсірілген видеоны тексергіңіз келсе, оны интернеттен, ескі дерекқорлардан және газет архивтерінен іздеген жөн. Сол арқылы осы видеоға қатысты бұрын жарияланған жаңалықтарды да табуға болады», – деп кеңес берді сарапшы.

Дипфейк арқылы ақша жымқыруы мүмкін

Профессор дипфейктің қаупін түсіндіру үшін корпоративтік ортадағы ықтимал алаяқтық жағдайын мысалға келтірді. Оның айтуынша, алаяқтар басшының бейнесін қолдан жасап, қызметкерден ақша аударуды сұрауы мүмкін. Мұндай жағдайда бейнеқоңыраудың шынайы көрінуі оның рас екенін білдірмейді.

«Мынадай жағдайды елестетіп көріңіз: бухгалтерге компания басшысынан бейнеқоңырау түседі. Басшы белгілі бір сомадағы ақшаны аударуды немесе төлемді жүзеге асыруды сұрайды. Бірақ бұл – дипфейк видео», — деп мысал келтірді Шехзад мырза.

Ол мұндай кезде есепші сақтық танытып, осындай қауіптер туралы хабардар болса, ол басшының бұрыннан белгілі телефон нөміріне қоңырау шалып, жағдайды тексеріп, бейнеқоңыраудың шын мәнінде басшыдан түспегенін анықтауы мүмкін екенін айтады.

«Сондықтан адамның қатысуы әрдайым маңызды. Тексеру процесінде адам міндетті түрде болуы керек. Біз қандай құралдарды қолдансақ та – жасанды интеллектке негізделген жүйелерді немесе басқа да анықтау және талдау құралдарын – олардың жалған теріс немесе жалған оң нәтиже беру ықтималдығы бар. Сондықтан әр жағдайда адамның бақылауы қажет», – деп түйіндеді профессор Шехзад Ашраф Чаудхари.

Айта кетейік, SIDe’26 халықаралық конференциясы 22–23 қазанда Назарбаев университетінде өтіп жатыр. Оны университеттің Есептеу техникасы және жасанды интеллект мектебі (SCAI) ұйымдастырған. Конференцияда жасанды интеллект, киберқауіпсіздік және қауіпсіз цифрлық экожүйелерді дамыту мәселелері талқыланады. Конференция жұмысы ертең, 23 қазанда да жалғасады.