A technológiai óriások összefognak, hogy leküzdjék a megtévesztő mélyhamisításokat a 2024-es választások előtt

Húsz vezető technológiai vállalat, köztük a Google, a Meta, a Microsoft, az OpenAI, a TikTok, az X, az Amazon és az Adobe ígéretet tett pénteken arra, hogy segít megakadályozni, hogy a mesterséges intelligencia megtévesztő felhasználása beavatkozzon a globális választásokba.

2024-ben a világ több mint 40 országában várhatóan 4 milliárd ember fog szavazni. Szakértők szerint a könnyen hozzáférhető generatív mesterséges intelligencia eszközök rossz szereplők kezébe kerülve potenciálisan hatással lehetnek ezekre a választásokra és befolyásolhatják a szavazatokat.

A generatív mesterséges intelligencia eszközök lehetővé teszik a felhasználók számára, hogy egyszerű szöveges üzenetekből képeket, videókat vagy hangot hozzanak létre. Egyesek nem rendelkeznek a szükséges biztosítékokkal annak megakadályozására, hogy a felhasználók olyan tartalmat hozzanak létre, amelyben politikusok vagy hírességek olyan dolgokat mondanak el, amelyeket soha nem mondtak, vagy olyan dolgokat tegyenek, amelyeket soha.

Éppen a múlt hónapban egy Joe Biden elnök hangját megszemélyesítő hamis roboccal elvette az emberek kedvét attól, hogy szavazzanak a New Hampshire-i előválasztáson. Tajvan a január 13-án esedékes elnökválasztás előtt a közösségi médiában terjedő hamisítványok jelentős részét látta.

A müncheni biztonsági konferencián ezek a vállalatok bejelentették a „Tech Accord to Combat Deceptive Use of AI in 2024 Elections”, amely egy önkéntes megállapodás nyolc konkrét kötelezettségvállalással a káros mesterségesintelligencia-tartalom elleni technológia bevezetésére.

„A demokrácia a biztonságos választásokon nyugszik” – mondta Kent Walker, a Google globális ügyekért felelős elnöke a müncheni konferencián. „A Google évek óta támogatja a választások feddhetetlenségét, és a mai megállapodás az iparági elkötelezettséget tükrözi a mesterséges intelligencia által generált választási félretájékoztatás ellen, amely aláássa a bizalmat. Nem engedhetjük meg, hogy a digitális visszaélések fenyegessenek a mesterséges intelligencia generációs lehetőségeit gazdaságunk fejlesztésére, új munkahelyek teremtésére és előmozdítani az egészségügy és a tudomány fejlődését.”

E kötelezettségvállalások némelyike ​​magában foglalja e tartalom platformjaikon való terjesztésének felderítését, valamint a megtévesztő mesterségesintelligencia-tartalommal kapcsolatos kockázatok csökkentését szolgáló technológia fejlesztését és bevezetését.

„Örülünk, hogy ezek a vállalatok lépéseket tesznek, hogy önként megfékezzék a valószínűleg legrosszabb visszaéléseket. Az önrendőrség elköteleződése segít, de ez nem elég” – mondta Lisa Gilbert, a Public Citizen ügyvezető alelnöke. non-profit szervezet, amely a politikai és explicit mélyhamisítások törvénykezését szorgalmazza – áll egy sajtóközleményben.

„A mesterséges intelligencia-cégeknek el kell kötelezniük magukat amellett, hogy visszatartják a technológiát – különösen a szöveg-videóvá alakítást –, amely jelentős választási kockázatokat jelent mindaddig, amíg meg nem születnek a megfelelő és jelentős biztosítékok, amelyek segítenek elkerülni számos lehetséges problémát” – tette hozzá.

Ez az Open AI nyomán jön az új szöveg-videó eszköz, a Sora, amely még nem elérhető a nagyközönség számára, és biztonsági szakértők tesztelik a potenciális kockázatok ellen.

„Ez egy konstruktív előrelépés. Nagyra értékeljük az érintett vállalatokat, hogy felléptek a tányérhoz. Az idő megmutatja, mennyire hatékonyak ezek a lépések, és szükség van-e további lépésekre. Mindannyiunknak szerepet kell vállalnunk választásaink integritásának megvédésében és támogatjuk a demokratikus folyamatot, és üdvözöljük a technológiai vállalatok e kritikus lépését” – mondta Mark Warner (D-Va.) és Lindsey Graham (RS.C.) amerikai szenátor az egyezményt támogató közös nyilatkozatban.

A mai naptól kezdve az egyezmény aláírói: Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic és X.

A vállalatok azt mondták, remélik, hogy még többen fognak megjelenni, és arra ösztönzik a kormányokat, hogy tegyenek érdemi lépéseket a mesterséges intelligencia káros felhasználásának törvényi szabályozása érdekében.