A mesterséges intelligencia mélyhamisítványainak használata Indonéziában, az idei választások előtt, vészharangot kongat az információs integritás szószólói körében, mivel ezeket politikai haszonszerzésre használják fel. Miközben a világ az ország ötödik közvetlen elnökválasztását nézi, a Suharto-korszak 1998-as vége óta érdemes egy pillantást vetni a gyorsan fejlődő technológia árnyoldalainak kezeléséért folytatott küzdelemre.
Az elmúlt hat hónapban a helyi és nemzetközi média „AI-választásnak” nevezte ezt, és számos érdekelt fél vegyes aggodalmairól és válaszairól számol be a generatív mesterséges intelligencia politikai pártok általi kampányaik során történő növekvő és ellentmondásos használatára vonatkozóan.
2023 októbere és idén január között számos mesterséges intelligencia által generált hang- és videoklip jelent meg és terjedt el a közösségi médiában, elsősorban elnökjelölteket célozva.
Az egyik egy mesterséges intelligencia által generált klip volt, amely a néhai Suharto elnököt támasztja fel, nyilvánvalóan arra kérve a választókat, hogy támogassák az elnökválasztás éllovasát és Prabowo Subianto jelenlegi védelmi miniszterét, aki mögé a Suharto által alapított Golkar párt dobja támogatását. Mások közé tartozik Prabowo „meleg és bújós” személyiségének átalakítása, amellyel megpróbálja enyhíteni szigorú imázsát neonacionalista Gerindra pártja politikai kampányaiban.
A nyilvános felháborodást követően mindkét kampánycsapat megvédte a két mesterséges intelligencia által generált átalakítást, mivel azok ártalmatlanok, és nem támadtak meg más jelölteket, ami az ország 2017-es választási törvénye szerint vétségnek számít.
Tavaly októberben egy másik audiovizuális hamisítvány jelent meg a YouTube-on, állítólag Joko Widodo hivatalban lévő elnök mandarinul beszélt, feltehetően azért, hogy tüzet gyújtson kritikusaira Indonézia és Kína meghitt kapcsolatairól. Valójában az eredeti videó egy beszédről szólt, amelyet angolul mondott egy vacsorán, 2015-ös egyesült államokbeli látogatása során.
Egy másik elnökjelölt és egykori oktatási miniszter, Anies Baswedan egy hangos hamisítvány legújabb áldozata lett, amikor január végén egy beszélgetés jelent meg közte és politikai mentora között az interneten. Állítólag egy felvétel volt arról, ahogy Anie-t megdorgálják alulteljesítése és gyenge kampánya miatt, azzal a nyilvánvaló szándékkal, hogy rontsák a választási pozícióját.
Számos ilyen incidens után a Kommunikációs és Informatikai Minisztérium tanácsokat adott ki az AI-eszközöket fejlesztő technológiai cégeknek, és azt tanácsolta a szavazóknak, hogy legyenek tisztában a mélyhamisítások lehetséges veszélyeivel. Lehet azonban, hogy ez már túl késő, mert ezek a klipek már a közösségi média felhasználók millióihoz eljutottak, mielőtt eltávolították volna őket.
Számtalan manipulált és manipulatív képet is használnak a törvényhozó jelöltek a szavazók vonzására, és a fő politikai pártok OpenAI-alapú interaktív csevegőbotokat használnak a potenciális szavazók megszólítására és a párt politikájával kapcsolatos kommunikációra.
Bár egyesek azzal érvelhetnek, hogy az AI-technológiának számos hasznos alkalmazása jelent meg, amelyek növelték a polgárok részvételét és erősítették a demokratizálódást a korábbi választásokon a mesterséges intelligencia-tudó országokban, például Indiában, Franciaországban és Új-Zélandon, de nem lehet nem tudni, hol pontosan a legitimitása ennek az AI-választási hazugságnak.
Az indonéz kontextusban, ahol a politikai vezetés feldobja a mesterséges intelligenciában rejlő lehetőségeket a gazdaság számára a szavazók megnyerésére, a mesterséges intelligencia mély hamisítása a szavazók manipulálására kvázi elfogadhatóvá vált, mindaddig, amíg azt pozitív módon használják, és egyértelműen a következő címkével látják el. AI által generált tartalomról van szó.
Ez az érv azonban rossz precedenst teremthet más országok számára, ahol idén választásokat tartanak, és véletlenül kiérdemelheti az AI-eszközök jótékony használatát, például a választási folyamat megkönnyítésében, beleértve a választási adatkezelést, elemzést, szavazatszámlálást és érvényesítés, rossz név.
Bár az online bizalommal és biztonsággal, valamint az internet-irányítási politikákkal kapcsolatban a világ kormányai gyenge szabványokat alkalmaznak, a hamis és manipulatív propaganda és befolyásolási műveletek, amelyek kárt okoznak, gyűlöletet szítanak és erőszakot váltanak ki, és tilosak, különösen akkor, ha a becsapás vagy a mikromegosztás szándéka. – megcélozza a választókat politikai pártjuk és jelöltjeik javára.
Indonézia egészen a közelmúltig a működő ázsiai demokrácia pozitív példája volt, a fékek és ellensúlyok egészséges rendszerével, valamint az élénk civil társadalommal, amely gyakran azért küzd, hogy magasra állítsa a lécet a demokrácia és az emberi jogok védelmében.
Sőt, a dezinformáció és a gyűlöletbeszéd – különösen az állammal kapcsolatos dezinformációs kampányok – jelentette fenyegetésre és kihívásra adott komoly és szigorú válasza ragyogó példa más ASEAN-országok számára.
Indonézia jól tehetné, ha levonja a tanulságokat a más ASEAN-tagállamokban, például a Fülöp-szigeteken, Malajziában és Thaiföldön lezajlott korábbi választásokból. Ott a közösségi média felhasználói láthatják, hogy a bevett hatalmak miként használják ki a technológia ellenőrzését, a törvényességtől eltekintve, hogy hatalmon maradjanak, a demokrácia rovására.
Ehelyett politikai vezetőik a Fülöp-szigetek internethez értő társadalmának rossz oldalára kerültek. Látjuk, hogy az állami szereplők megpróbálják kihasználni az online térben rejlő lehetőségeket az ország autokratikus múltjának orvoslására, hatékonyan újraírva a történelmet, hogy vonzzák a fiatal szavazókat. Indonéziának több mint 200 millió szavazásra jogosult polgára van, akik közül sokan még meg sem születtek, amikor az ország Suharto 32 éves uralma alatt állt.
Ennek ellenére Indonézia civil társadalma továbbra is szilárd és erős. Hogy csak egy jó példát említsünk, mindössze néhány hónapba telt, amíg mind a 18 versengő politikai párt, három elnök- és alelnökjelölti csapat, a Választási Felügyeleti Ügynökség (Bawaslu) és a civil társadalom partnerei csatlakoztak egy önkéntes kerethez. a közösségi média felhasználása a politikai kampányokban a választási feddhetetlenség védelmében január 21-én.
A megállapodást, amely részben Thaiföld magatartási kódexének mintájára a közösségi média politikai kampányokban való felhasználásáról szól, 36 politikai párt írta alá a tavaly májusi általános választások előtt. Egyebek mellett erőszakmentes és tényeken alapuló online kampányok és információk átláthatósága mellett kötelezi el az aláíró feleket.
Bár ez a keretrendszer, amelyet a svájci székhelyű Henry Dunant Humanitárius Párbeszéd Központ (HD) készített és segített, jogilag nem kötelező erejű, és súlyos mesterséges intelligencia mély hamis incidenseket követ, jelentős lépés a helyes irányba.
Thaiföld esetében ez a kezdeményezés nyomon követési keretet biztosít az őrző csoportok számára, amelyek nyomon követhetik és kivizsgálhatják a politikai pártok, jelöltek, támogatók és magánszemélyek bármilyen káros és manipulatív online viselkedését a választások során. Ez hatékony beavatkozást és politikaformálást jelent a választási integritás védelmében.
Végül is a sokszínű ASEAN jogokon alapuló közösségnek össze kell tartania és tanulnia kell egymástól. A polgárok mesterséges intelligenciával, digitális írástudással és a kormányok felelősségre vonásához szükséges kompetenciákkal való felruházásnak a demokrácia védelméért folytatott határozott küzdelem részét kell képeznie.
Kulachada Chaipipat a Cofact Thailand thaiföldi médiatanácsadója és tanácsadója. Ezt a cikket a thaiföldi PBS Worldnek írta.
