A technológiai cégek megállapodást írnak alá az AI által generált választási trükkök elleni küzdelemről

A nagy technológiai vállalatok pénteken egyezményt írtak alá, hogy önkéntesen „ésszerű óvintézkedéseket” tegyenek annak megakadályozására, hogy mesterséges intelligencia eszközöket használjanak a demokratikus választások megzavarására szerte a világon.

Az Adobe, az Amazon, a Google, az IBM, a Meta, a Microsoft, az OpenAI és a TikTok vezetői összegyűltek a müncheni biztonsági konferencián, hogy bejelentsék az új keretrendszert arra vonatkozóan, hogyan reagálnak az AI által generált mélyhamisításokra, amelyek szándékosan becsapják a szavazókat. Tizenkét másik cég – köztük Elon Musk X-je – szintén aláírja a megállapodást.

„Mindenki tisztában van azzal, hogy egyetlen technológiai vállalat, egyetlen kormány vagy civil szervezet sem képes egyedül megbirkózni a technológia megjelenésével és esetleges aljas felhasználásával” – mondta Nick Clegg, a Meta globális ügyekért felelős elnöke. a Facebook és az Instagram anyavállalata a csúcstalálkozó előtt adott interjúban.

Az egyezség nagyrészt szimbolikus, de egyre inkább valósághű, mesterséges intelligencia által generált képeket, hangokat és videókat céloz meg, „amelyek megtévesztően meghamisítják vagy megváltoztatják a politikai jelöltek, választási tisztviselők és más kulcsfontosságú szereplők megjelenését, hangját vagy cselekedeteit a demokratikus választásokon, vagy hamis információk a választóknak arról, hogy mikor, hol és hogyan szavazhatnak törvényesen.”

A cégek nem vállalják a mélyhamisítások betiltását vagy eltávolítását. Ehelyett az egyezmény felvázolja azokat a módszereket, amelyeket a megtévesztő mesterséges intelligencia-tartalom észlelésére és címkézésére fognak használni, amikor azokat a platformjaikon létrehozzák vagy terjesztik. Megjegyzi, hogy a vállalatok megosztják egymással a bevált gyakorlatokat, és „gyors és arányos válaszokat” adnak, amikor a tartalom elkezd terjedni.

A kötelezettségvállalások homályossága és a kötelező érvényű követelmények hiánya valószínűleg segített megnyerni a vállalatok sokféleségét, de a csalódott jogvédők erősebb biztosítékokat kerestek.

„A nyelvezet nem olyan erős, mint az várható volt” – mondta Rachel Orey, a Bipartisan Policy Center választási projektjének vezető helyettes igazgatója. „Úgy gondolom, hogy hitelt kell adnunk ott, ahol a hitel esedékes, és el kell ismernünk, hogy a vállalatoknak valóban érdekük fűződik ahhoz, hogy eszközeiket ne a szabad és tisztességes választások aláásására használják fel. Ennek ellenére ez önkéntes, és figyelemmel fogjuk kísérni, hogy betartják-e.

Clegg szerint minden vállalatnak „jogosan megvan a saját tartalmi irányelvei”.

„Ez nem arra irányul, hogy kényszerzubbonyt próbáljunk rákényszeríteni mindenkire” – mondta. „És mindenesetre senki sem gondolja az iparágban, hogy egy teljesen új technológiai paradigmával számolhatunk azzal, ha szőnyeg alá söpörjük a dolgokat, és megpróbálunk játszani. ütni egy vakondot, és mindent megtalálni, amiről úgy gondolja, hogy félrevezethet valakit.”

A pénteki bejelentéshez több európai és amerikai politikai vezető is csatlakozott. Vera Jourova, az Európai Bizottság alelnöke azt mondta, bár egy ilyen megállapodás nem lehet átfogó, „nagyon hatásos és pozitív elemeket tartalmaz”. Arra is felszólította politikustársait, hogy vállalják a felelősséget a mesterséges intelligencia eszközök megtévesztő használatának elkerülése érdekében, és arra figyelmeztetett, hogy a mesterséges intelligencia által vezérelt félretájékoztatás „a demokrácia végét hozhatja, nem csak az EU-tagállamokban”.

A megállapodás a német város éves biztonsági találkozóján született, mivel 2024-ben több mint 50 országban tartanak országos választásokat. Banglades, Tajvan, Pakisztán és legutóbb Indonézia már megtette.

A mesterséges intelligencia által generált választási beavatkozási kísérletek már megkezdődtek, például amikor Joe Biden amerikai elnök hangját utánzó mesterséges intelligenciahívások megpróbálták elvenni az emberek kedvét a szavazástól a New Hampshire-i előválasztáson a múlt hónapban.

Néhány nappal a novemberi szlovákiai választások előtt mesterséges intelligencia által generált hangfelvételek egy jelöltet adtak ki, aki a sörárak emelésének és a választások meghamisításának terveiről tárgyal. A közösségi médiában terjedő tényellenőrzők igyekeztek hamisnak azonosítani őket.

A politikusok is kísérleteztek a technológiával, kezdve az AI chatbotok használatától a szavazókkal való kommunikációhoz egészen a mesterséges intelligencia által generált képek hirdetésekhez való hozzáadásáig.

A megállapodás felszólítja a platformokat, hogy „figyeljenek a kontextusra, és különösen az oktatási, dokumentumfilmes, művészi, szatirikus és politikai kifejezésmód védelmére”.

A közlemény szerint a vállalatok arra fognak összpontosítani, hogy átláthatóvá tegyék politikáikat a felhasználók felé, és azon dolgoznak, hogy felvilágosítsák a közvéleményt arról, hogyan kerülhetik el a mesterséges intelligencia-hamisítványok bedőlését.

A legtöbb vállalat korábban azt mondta, hogy biztosítékokat helyez a saját generatív mesterséges intelligencia eszközeire, amelyek képesek manipulálni a képeket és a hangokat, miközben azon dolgoznak, hogy azonosítsák és felcímkézzék a mesterséges intelligencia által generált tartalmakat, hogy a közösségi média felhasználók tudják, valódi-e, amit látnak. A javasolt megoldások többsége azonban még nem jelent meg, és a vállalatokra nyomás nehezedett, hogy többet tegyenek.

Ez a nyomás fokozódik az Egyesült Államokban, ahol a Kongresszus még nem fogadta el a mesterséges intelligencia politikáját szabályozó törvényeket, így a vállalatok nagyrészt maguk irányítják magukat.

A Szövetségi Kommunikációs Bizottság nemrégiben megerősítette, hogy a mesterséges intelligencia által generált hangklipek robothívásokban törvénybe ütköznek, de ez nem vonatkozik a mélyhamisításokra, amikor a közösségi médiában vagy kampányhirdetésekben keringenek.

Sok közösségi médiával foglalkozó vállalat már rendelkezik olyan irányelvekkel, amelyek megakadályozzák a választási folyamatokkal kapcsolatos megtévesztő bejegyzéseket – akár mesterséges intelligencia által generált, akár nem. A Meta azt állítja, hogy eltávolítja a félretájékoztatást „a szavazás dátumairól, helyszíneiről, időpontjairól és módszereiről, a szavazók regisztrációjáról vagy a népszámlálási részvételről”, valamint az egyéb hamis bejegyzéseket, amelyek célja, hogy megzavarják valaki polgári részvételét.

Jeff Allen, az Integrity Institute társalapítója és egykori Facebook-adattudós azt mondta, hogy a megállapodás „pozitív lépésnek” tűnik, de továbbra is szeretné, ha a közösségi média cégek más lépéseket tennének a félretájékoztatás leküzdésére, például tartalomajánlást építenének ki. olyan rendszerek, amelyek nem helyezik mindenekelőtt az elkötelezettséget.

Lisa Gilbert, a Public Citizen érdekvédelmi csoport ügyvezető alelnöke pénteken azzal érvelt, hogy a megállapodás „nem elég”, és az AI-cégeknek „vissza kell tartaniuk a technológiát”, például a hiperrealisztikus szöveg-videó generátorokat, „amíg nincs jelentős és megfelelő”. biztosítékok, amelyek segítenek elkerülni sok lehetséges problémát.”

A pénteki megállapodást közvetítő cégeken kívül az aláírók közé tartozik az Anthropic és az Inflection AI chatbot-fejlesztők is; hangklón indító ElevenLabs; chiptervező Arm Holdings; McAfee és TrendMicro biztonsági cégek; és a Stabilitás AI, amely a Stable Diffusion képgenerátor létrehozásáról ismert.

Különösen hiányzik egy másik népszerű AI képgenerátor, a Midjourney. A San Francisco-i székhelyű startup pénteken nem válaszolt azonnal a kommentárra.

A pénteki megállapodás egyik meglepetése volt az X felvétele, amelyről a függőben lévő megállapodásról szóló korábbi bejelentés nem esett szó. Musk élesen megnyirbálta a tartalom-moderáló csapatokat, miután átvette a korábbi Twittert, és „szólásszabadság-abszolutistaként” jellemezte magát.

Linda Yaccarino, az X vezérigazgatója pénteki nyilatkozatában kijelentette, hogy „minden polgár és vállalat felelőssége a szabad és tisztességes választások védelme”.

„Az X elkötelezett amellett, hogy kivegye a részét, együttműködik társaival az MI-fenyegetések leküzdésében, miközben védi a szólásszabadságot és maximalizálja az átláthatóságot” – mondta.

__

Az Associated Press számos magánalapítványtól kap támogatást, hogy fokozza a választásokkal és a demokráciával kapcsolatos magyarázó tudósításait. További információ az AP demokrácia kezdeményezéséről itt. Az összes tartalomért kizárólag az AP felelős.