Mit kell tudni arról, hogy a törvényhozók hogyan kezelik az olyan mélyhamisításokat, mint amelyek Taylor Swift áldozatává váltak

Még azelőtt, hogy az elmúlt napokban Taylor Swiftről készült pornográf és erőszakos mélyhamis képek széles körben elterjedtek, az Egyesült Államok állam törvényhozói keresték a módját, hogyan semmisítsék meg a felnőttekről és gyerekekről készült, nem konszenzusos képeket.

Ám ebben a Taylor-központú korszakban a probléma sokkal nagyobb figyelmet kapott, mióta mélyhamisítások célpontjai, a mesterséges intelligencia segítségével számítógéppel generált képek valódinak tűnnek.

Íme néhány tudnivaló arról, hogy az államok mit tettek és mit fontolgatnak.

A mesterséges intelligencia tavaly soha nem látott módon került a mainstreambe, lehetővé téve az emberek számára, hogy egyre valósághűbb mélyhamisításokat készítsenek. Mostanában gyakrabban jelennek meg az interneten, többféle formában.

Létezik pornográfia – a Swifthez hasonló hírességek kihasználása hamis, kompromittáló képek készítésére.

Van zene – egy olyan dalra, amely úgy szólt, mintha Drake és The Weeknd közösen lépett volna fel, több millió kattintást kapott a streaming szolgáltatásokon –, de nem ezek az előadók. A dalt eltávolították a platformokról.

És vannak politikai piszkos trükkök is, ebben a választási évben – Közvetlenül a januári elnökválasztás előtt néhány New Hampshire-i szavazó arról számolt be, hogy Joe Biden elnöktől állítólagos robothívást kapott, amelyben azt mondta nekik, hogy ne foglalkozzanak a szavazatok leadásával. Az Állami Főügyészség nyomoz.

De gyakoribb körülmény a pornó, amely nem híres emberek, köztük kiskorúak képmását használja.

A mélyhamisítások csak egy olyan terület a mesterséges intelligencia bonyolult birodalmában, amelyet a törvényhozók próbálnak kitalálni, hogy kezeljék-e, és hogyan.

Legalább 10 állam hozott már törvényt a mélyhamisításról. Idén még rengeteg intézkedést fontolgatnak a törvényhozásban országszerte.

Georgia, Hawaii, Texas és Virginia törvényei a könyvekre vonatkozóan kriminalizálják a nem konszenzusos hamisított pornót.

Kalifornia és Illinois feljogosította az áldozatokat, hogy bepereljék azokat, akik képmásukat felhasználva készítenek képeket.

Minnesota és New York mindkettőt csinálja. Minnesota törvénye a mélyhamisítások használatát is célozza a politikában.

A Buffalo-i Egyetem számítástechnikai professzora, Siwei Lyu elmondta, hogy számos megközelítéssel dolgoznak, egyik sem tökéletes.

Az egyik a mélyhamisítás-észlelő algoritmusok, amelyek segítségével megjelölhetők a mélyhamisítások olyan helyeken, mint a közösségi média platformja.

Egy másik – amely Lyu szerint fejlesztés alatt áll, de még nem használják széles körben – olyan kódok beágyazása az emberek által feltöltött tartalomba, amelyek jelezhetik, ha újra felhasználják őket az AI létrehozásában.

A harmadik mechanizmus pedig az lenne, hogy az AI-eszközöket kínáló vállalatoktól megköveteljék, hogy digitális vízjeleket helyezzenek el az alkalmazásaikkal generált tartalom azonosítása érdekében.

Elmondta, hogy ésszerű felelősségre vonni ezeket a cégeket azért, hogy az emberek hogyan használják eszközeiket, és a cégek viszont kikényszeríthetik a felhasználói megállapodásokat a problémás mélyhamisítások létrehozása ellen.

Az American Legislative Exchange Council által javasolt mintatörvény a pornóval foglalkozik, nem a politikával. A konzervatív és üzletpárti politikai csoport két dolog megtételére ösztönzi az államokat: kriminalizálják a kiskorúakat szexuális aktusban ábrázoló mélyhamisítványok birtoklását és terjesztését, és lehetővé tegyék az áldozatok számára, hogy beperelhessék azokat az embereket, akik szexuális magatartást bemutató, nem beleegyezésen alapuló mélyhamisítványokat terjesztenek.

„Azt javaslom a törvényhozóknak, hogy kezdjenek egy kis, előíró jellegű javítással, amely kézzelfogható problémát tud megoldani” – mondta Jake Morabito, az ALEC kommunikációs és technológiai munkacsoportjának vezetője. Arra figyelmeztet, hogy a törvényhozók nem célozhatják meg azt a technológiát, amellyel mélyhamisításokat lehet készíteni, mivel ez leállíthatja az innovációt más fontos felhasználási területeken.

Todd Helmus, a RAND, egy párton kívüli agytröszt viselkedéskutatója rámutat, hogy nem elegendő a jogérvényesítést a pert indító egyénekre bízni. Erőforrásokra van szükség a perhez – mondta. És az eredmény nem biztos, hogy megéri. „Nem érdemes beperelni valakit, akinek nincs pénze neked” – mondta.

Helmus korlátokat kér az egész rendszerben, és azt mondja, hogy ezek működéséhez valószínűleg a kormány közreműködésére van szükség.

Elmondta, hogy az OpenAI-nak és más cégeknek, amelyek platformjain reálisnak tűnő tartalom generálható, erőfeszítéseket kell tenniük, hogy megakadályozzák a mélyhamisítások létrehozását; A közösségi média cégeknek jobb rendszereket kellene bevezetniük, hogy ne szaporodjanak el, és ennek jogi következményei legyenek azok, akik így is tesznek.

Jenna Leventoff, az ACLU első módosításának ügyvédje elmondta, hogy bár a mélyhamisítások kárt okozhatnak, a szólásszabadság védelme rájuk is vonatkozik, és a törvényhozóknak gondoskodniuk kell arról, hogy ne lépjék túl a szólásszabadságra vonatkozó meglévő kivételeket, mint például a rágalmazás, csalás és trágárság, amikor megpróbálják szabályozni a kialakulóban lévő technológiát.

A múlt héten a Fehér Ház sajtótitkára, Karine Jean-Pierre foglalkozott a témával, és azt mondta, hogy a közösségi média cégeknek saját szabályaikat kell létrehozniuk és betartatniuk, hogy megakadályozzák a Swifthez hasonló téves információk és képek terjedését.

A Kongresszus tagjainak egy kétpárti csoportja januárban olyan szövetségi törvényt vezetett be, amely tulajdonjogot biztosít az embereknek a saját hasonlatosságukhoz és hangjukhoz – és perelni is lehet azokat, akik ezt bármilyen okból félrevezető módon, hamisítványon keresztül használják.

A legtöbb állam valamiféle mélyhamisított jogszabályt fontolgat az idei ülésein. Ezeket a demokraták, a republikánusok és a kétpárti törvényhozók koalíciói vezetik be.

A törvényjavaslatok között olyan is szerepel, amely bûncselekménnyé tenné egy személy beleegyezése nélkül való szexuális jellegű ábrázolását a GOP által uralt Indianában. A Ház januárban egyhangúlag elfogadta.

A Missouri államban ezen a héten bevezetett hasonló intézkedés a „Taylor Swift törvény” nevet viseli. Egy másik pedig ezen a héten engedélyezte a Szenátust Dél-Dakotában, ahol Marty Jackley főügyész azt mondta, hogy bizonyos nyomozásokat szövetségi tisztviselők kezébe adtak, mert az állam nem rendelkezik a vádemeléshez szükséges mesterségesintelligencia-törvényekkel.

„Amikor belépsz valakinek a Facebook-oldalára, ellopod a gyerekét, és ezt pornográfiába helyezed, az Első Kiegészítésnek nincs joga ehhez” – mondta Jackley.

Az online jelenléttel rendelkezők számára nehéz lehet megakadályozni, hogy hamisítvány áldozatává váljanak.

De a RAND Helmusa azt mondja, hogy azok, akik úgy találják, hogy célponttá váltak, kérhetnek egy közösségi média platformot, ahol a képeket megosztják, hogy távolítsák el őket; értesítse a rendőrséget, ha törvényes helyen tartózkodik; közölje az iskola vagy az egyetem tisztviselőivel, ha a feltételezett elkövető diák; és szükség szerint kérjen mentális egészségügyi segítséget.

___

Az Associated Press riporterei az Egyesült Államokból járultak hozzá ehhez a cikkhez.