Саяси науқан алдындағы дипфейктер: қалай жасалады және астарында не жатыр

Дипфейк жасау үшін алаяқтарға бір фотосурет пен бірнеше секундтық дауыс жазбасы жеткілікті. Мамандар тіпті, арнайы анықтау жүйелерінің өзі жалған бейнені әрдайым тани алмайтынын айтады. Жалған ақпарат пен дипфейктер әсіресе, саяси науқан алдында көбейеді. Nofake.kz  саяси дипфейктердің астарында не жатқанын және олар қалай жасалатынын зерттеп көрді.

Фото, дауыс: дипфейк неден құралады?

Францияның EURECOM университетінің цифрлық қауіпсіздік департаментінің профессоры Жан-Люк Дюжеле дәл осы бағыттағы маман. Оның ғылыми қызметі цифрлық суреттер мен бейнелерді талдау, биометрия, бет-әлпетті тану, бейнебақылау және цифрлық сараптама салаларымен байланысты. Сондықтан ол дипфейктерді абстрактілі қауіп ретінде емес, бірнеше кезеңге бөліп қарастыруға болатын технология дейді.

Сарапшының айтуынша, жалған инвестициялық видеоны жасау бастапқы материалдарды жинаудан басталады.

«Егер алаяқтар мұндай видеоны сенімді етіп көрсеткісі келсе, оларға көбінесе адамның бір сапалы фотосуреті мен бірнеше секундтық дауыс жазбасы жеткілікті. Осыдан кейін арнайы құралдардың көмегімен олар фотодағы адамды “жандандырып”, оның өз дауысымен сөйлеп тұрғандай етіп көрсете алады», – дейді Жан-Люк Дюжеле.

Қазақстанда саяси дипфейктерге кімдер ілікті?

Естеріңізде болса, күні кеше Мемлекет басшысы Қасым-Жомарт Тоқаев адамзатқа жалған ақпарат пен дипфейктерден төніп тұрған қауіп туралы айтқан болатын.

«Заманауи технологиялар цифрлық алаңда алауыздықты әдейі ушықтыратын «ботофермалардың» пайда болуына түрткі болды. Көпе-көрінеу жалған ақпарат тарату, адамды қаралау, өтірікті шындай соғатын қауіпті құбылыс қалыптасты. Оны қазір дипфейк деп атайды. Яғни объективті фактілер эмоцияның көлеңкесінде қалып, қасақана арандатушылық туғызады», — деді ол.

Сондай дипфейктерге мысал ретінде редакциямызда бұған дейін жарияланған депутаттардың бірнеше дипфейктерін келтіруге болады. Ондай дипфейктер әсіресе, саяси науқан алдында, біздің жағдайда Конституциялық реформа алдында жанданғаны байқалады.

Мәселен, Nofake.kz бұған дейін Қорғаныс министрлігі атынан тараған осындай видеоның дипфейк екенін жариялаған болатын. Видеода министрлік өкілі «Сарбаз өліміне қылмыстық іс ашылмасын» деген мазмұндағы ақпарат таратып, көпшілікті дүрліктірген еді.

Дәл осындай видео референдум қарсаңында да тараған болатын. Онда «Марқұмдардың атынан референдумда дауыс береді» деген жалған ақпарат тараған еді.

Дәл осындай жағдай Венгриядағы сайлау кезінде де орын алған. Political Capital сараптамалық орталығының зерттеушісі Чаба Мольнар Венгриядағы сайлау науқаны жалған немесе манипуляцияланған ақпарат негізгі саяси күн тәртібінің бір бөлігіне айналған «постақиқат» (post-truth) құбылысының айқын мысалы болды. Соның бірі – оппозициялық Tisza партиясына қатысты ойдан шығарылған «салық жоспары». Бұл ақпарат билікшіл БАҚ арқылы кеңінен таратылып, кейін сот оның шындыққа сәйкес келмейтінін анықтады.

Сарапшы сондай-ақ ЖИ арқылы жасалған дезинформацияның сайлаушылардың саясаткерлер мен партияларға деген көзқарасын қалай қалыптастыратыны туралы айтты.

«Жалған ақпарат өте жарқын әрі эмоцияға әсер ететін форматта таралады. Ол адамның жадында ұзақ сақталатын із қалдыруы мүмкін, ал бұл кейін біздің шешімдерімізге ықпал етеді. Мысалы, сайлау күні кімге дауыс беру немесе, керісінше, кімге мүлде дауыс бермеу туралы таңдауға әсер етуі ықтимал. Сайлау науқаны кезінде көрген ЖИ арқылы жасалған контенттің басым бөлігінің мақсаты да осы болды. Олар оппозициялық саясаткерлер мен партиялардың беделіне нұқсан келтіріп, сайлаушылардың оларға дауыс бермеуіне ықпал етуді көздеді», – деді Чаба Мольнар.

Дипфейкті жасау жеңіл ме?

Франциялық профессор Жан-Люк Дюжеленің пікірінше,бүгінде дипфейктің техникалық бөлігін жасау аса күрделі дайындықты талап етпейді. Фото мен видеоны көпшілікке қолжетімді құралдар арқылы өңдеуге болады. Ал дауысты қолдан жасау қиындау: оны шынайы етіп шығарып, ерін қимылдарымен дәл сәйкестендіру қажет. Одан да күрделісі – мұндай жалған әрекетті нақты уақыт режимінде жасау. Дегенмен бүгінде бұл техникалық кедергілер алаяқтар үшін басты мәселе емес.

«Бүгінде қарапайым әрі дөрекі дипфейк жасау өте оңай. Алаяқ үшін негізгі қиындық – дипфейктің өзін жасау емес, сенімді сценарий ойлап табу. Ол қандай оқиғаны айту керектігін, адамға қашан хабарласу тиімді екенін және қандай дәлелдерді қолдану қажет екенін түсінуі керек. Мысалы, егер ақша сұраса, қандай негізбен сұрайды? Өзін компания директоры ретінде таныстыра ма? Әлде туысқаны ретінде ме?» – дейді сарапшы.

Алаяқтардың арбауына қалай түспейміз?

«Жалған әрекетті анықтаудың ең тиімді жолы аудио немесе видеоны талдау емес, контексті тексеру болып табылады. Шынайы адам ғана білетін сұрақ қойыңыз. Мысалы, хат алмасу кезінде компанияңыз туралы, соңғы кездесулеріңіз туралы немесе тек сол адам білуі тиіс жайттар туралы сұрауға болады. Ал бейнеқоңырау кезінде адамнан қарапайым әрекет жасауды өтініңіз: мысалы, солға немесе оңға қарауын сұраңыз», – дейді сарапшы.

Сонымен қатар қауіпсіздік тек дипфейкті тану қабілетіне ғана тәуелді болмауы керек. Жан-Люк Дюжеленің айтуынша, тиімді инвестиция уәде еткен қоңыраулар мен бейнебайланыстарға қатысты да күмәнді хаттардағыдай қағида қолданылады.

«Егер сізге белгісіз хат келіп, онда көрсетілген нөмірге қоңырау шалуды немесе банкпен байланысуды сұраса, сіз бірден жауап бермеңіз. Оның орнына банктің ресми нөміріне өзіңіз хабарласасыз. Мұнда да дәл сол қағида жұмыс істейді. Егер біреу телефон арқылы ақша аударуды сұрап, соның арқасында байып кететініңізді айтса, одан WhatsApp нөмірін немесе электрондық поштасын беруді сұраңыз. Егер сізге SMS арқылы хабарласса, электрондық пошта арқылы жауап беріңіз және керісінше. Осылайша алаяқ өзіне қатысты қосымша ақпарат беруге мәжбүр болады», – деп қорытындылады Жан-Люк Дюжеле.

Сарапшының айтуынша, әңгімелесуші сізден сұраған ережелер бойынша әрекет етпеу керек. Үзіліс жасап, байланысты басқа арнаға ауыстыру — алаяқтардың тұзағынан қорғайтынын ұмытпаңыз

Түйін

ЖИ дамуы ақпарат тарату мүмкіндігін кеңейткенімен, оны теріс мақсатта пайдаланатындардың да қатары артып келеді. Әсіресе, сайлау мен референдум сияқты саяси науқандар кезінде дипфейктер мен жалған ақпарат қоғамдық пікірге ықпал ету құралына айналуда. Мұндай контенттің басты мақсаты – адамдардың эмоциясына әсер етіп, белгілі бір саясаткерге немесе саяси күшке деген сенімді әлсірету, қоғамда күмән мен алауыздық қалыптастыру.

Сарапшылардың айтуынша, дипфейктерді жасау бұрынғыдай күрделі процесс емес. Бір ғана фотосурет пен бірнеше секундтық дауыс жазбасының өзі шынайы көрінетін жалған бейне жасауға жеткілікті болуы мүмкін. Сондықтан бүгінгі күні қауіптің негізгі көзі технологияның өзі емес, оны қандай мақсатта және кімнің қолданып отырғанында.

Осындай жағдайда әрбір азаматтың медиасауаттылығы шешуші рөл атқарады. Әлеуметтік желілерде таралған кез келген даулы видеоға немесе сенсациялық мәлімдемеге бірден сенбей, ақпараттың түпнұсқасын тексеру, ресми дереккөздерге жүгіну және бірнеше ақпарат көзін салыстыру маңызды. Ал күмәнді қоңыраулар мен хабарламалар кезінде сарапшылар ұсынғандай, әңгімені басқа байланыс арнасына ауыстырып, қосымша сұрақтар қою – алаяқтардың арбауына түсудің алдын алатын қарапайым әрі тиімді тәсілдердің бірі.

Цифрлық технологиялар дамыған сайын дипфейктердің сапасы да арта береді. Сондықтан олармен күрестегі ең тиімді құрал – технология ғана емес, ақпаратты сыни тұрғыдан бағалай алатын, медиасауатты қоғам қалыптастыру.

Айта кетейік, Қазақстанда жасанды интеллектіні қолдануды құқықтық тұрғыдан реттеуге бағытталған арнайы заң қабылданды. Құжатта ЖИ жүйелерін қауіпсіз пайдалану, ашықтықты қамтамасыз ету және адам құқықтарын қорғау қағидаттары көзделген. Мұндай құқықтық тетіктердің тиімді болуы азаматтардың медиасауаттылығымен қатар жүргенде ғана жалған ақпарат пен дипфейктердің таралуына қарсы тұруға мүмкіндік береді.