A mesterséges intelligencia terén elért hatalmas előrelépések figyelmeztetést váltottak ki az iparág vezetőitől a lehetséges súlyos kockázatok miatt, beleértve a fegyverrendszerek szélhámosságát és a hatalmas kibertámadásokat.
Egy állam törvényhozója Kaliforniában, ahol számos legnagyobb mesterséges intelligencia-cég működik, a héten egy mérföldkőnek számító törvényjavaslatot terjesztett elő, amely szabályozást ír elő e veszélyek kezelésére.
A törvényjavaslat kötelező tesztelést ír elő a széles körű AI-termékeknél, mielőtt azok elérnék a felhasználókat. A törvényjavaslat hozzáteszi, hogy minden jelentős mesterségesintelligencia-modellt fel kell szerelni olyan eszközzel, amely leállítja a technológiát, ha valami baj van.
„Amikor a szélsőséges veszélyekkel kapcsolatos biztonsági kockázatokról beszélünk, sokkal jobb, ha védelmet helyezünk el, mielőtt ezek a kockázatok jelentkeznének, nem pedig a felzárkózás megkísérlése” – mondta Scott Wiener szenátor, a törvényjavaslat szponzora az ABC-nek. Hírek. – Menjünk előbbre.
A következőket kell tudni arról, hogy mit tesz a törvényjavaslat, és hogyan befolyásolhatja az AI-szabályozást országszerte:
Mit tenne a törvényjavaslat a mesterséges intelligencia kockázatai ellen?
A törvényjavaslat megerősítené a nagy mesterségesintelligencia-modellek előtti ellenőrzést, mielőtt széles körű választási lehetőséget kapnának, biztosítva, hogy az állami tisztviselők teszteljék a termékeket a megjelenés előtt.
A vészkikapcsolás kötelezővé tétele mellett a törvényjavaslat feltörés elleni védelmet is bevezetne, hogy az AI kevésbé legyen sebezhető a rossz szereplőkkel szemben.
A végrehajtás megerősítése érdekében az intézkedés a Kaliforniai Műszaki Minisztériumon belül létrehozná a Frontier Model Division-t a szabályozás végrehajtásának eszközeként.
Mivel a jogszabály a szélsőséges kockázatokra összpontosít, nem vonatkozik a kis méretű mesterséges intelligencia termékekre, mondta Wiener.
„Célunk az innováció előmozdítása a biztonságot szem előtt tartva” – tette hozzá Wiener.
Sőt, a törvényjavaslat elősegítené a mesterséges intelligencia fejlesztését a CalCompute, egy köztulajdonban lévő kezdeményezés létrehozásával, amely megkönnyítené a megosztott számítási teljesítményt a vállalkozások, kutatók és közösségi csoportok között.
Teri Olle, a kaliforniai Economic Security nonprofit szervezet igazgatója elmondta az ABC News-nak, hogy ez az erőfeszítés segít csökkenteni a technikai küszöböt a kis cégek vagy szervezetek számára, amelyek esetleg nem rendelkeznek a nagyvállalatok hatalmas számítási kapacitásával.
„A hozzáférés kiterjesztésével lehetővé válik a közérdekhez igazodó kutatás, innováció és mesterséges intelligencia fejlesztés” – mondta Olle, akinek a szervezete segítette a törvényjavaslat ezen elemének kidolgozását.
Sarah Myers West, a mesterséges intelligencia szabályozását támogató nonprofit csoport, az AI Now Institute ügyvezető igazgatója üdvözölte az intézkedés által alkalmazott megelőző megközelítést.
„Nagyszerű látni, hogy a hangsúly az ártalmak kezelésére és mérséklésére irányul, mielőtt azok piacra kerülnek” – mondta Myers West az ABC Newsnak.
Hozzátette azonban, hogy a mesterséges intelligencia által jelentett számos jelenlegi kockázatot nem kezeltek, beleértve a munkavállalók fizetésének megállapítására vagy az egészségügyi ellátáshoz való hozzáférés biztosítására használt algoritmusok torzítását.
„Olyan sok hely van, ahol az AI-t már használják emberek befolyásolására” – mondta Myers West.
Wiener a maga részéről elmondta, hogy a kaliforniai törvényhozás más törvényjavaslatokat is előterjesztett a mesterséges intelligencia okozta folyamatos károk némelyikének kezelésére. „Nem fogunk minden problémát egy törvényjavaslatban megoldani” – tette hozzá Wiener.
Az Open AI vezérigazgatója, Sam Altman a Szenátus Igazságügyi Adatvédelmi, Technológiai és Törvényi Albizottságának felügyeleti meghallgatásán tanúskodik az AI vizsgálatára, a mesterséges intelligencia szabályaira összpontosítva Washingtonban, 2023. május 16-án.
Anadolu Ügynökség a Getty Images segítségével
Hogyan érintheti a törvényjavaslat az AI-törvényt országosan?
A szélsőséges mesterségesintelligencia-kockázatra vonatkozó kaliforniai intézkedés az AI-val kapcsolatos számlák megugrása közepette az állami házakban országszerte.
A BSA, a Software Alliance iparági csoport szerint szeptemberig az állami törvényhozások 191 mesterséges intelligenciával kapcsolatos törvényjavaslatot vezettek be 2023-ban, ami 440%-os növekedést jelent az előző évhez képest.
A Kaliforniában javasolt jogszabályok azonban különös súllyal bírnak, mivel a legnagyobb mesterségesintelligencia-társaságok közül sok az államban található – mondta Olle, a California Economic Security munkatársa.
„A kaliforniai szabályozások határozzák meg a mércét” – mondta Olle. „Azzal, hogy Kaliforniában megfelelsz ezeknek a szabványoknak, hatással van a piacra.”
A közelmúltban lezajlott politikai megbeszélések és meghallgatások ellenére a Kongresszus kevés előrelépést ért el a mesterséges intelligencia kockázatainak kezelésére irányuló átfogó intézkedés irányába, mondta Myers West.
„A Kongresszus valahogy elakadt” – tette hozzá Myers West. „Ez azt jelenti, hogy nagyon fontos szerepe van az államoknak.”
Dylan Hoffman, a TechNet ipari lobbicsoport kaliforniai és délnyugati ügyvezető igazgatója hangsúlyozta az Egyesült Államokban működő mesterséges intelligencia szabályozás fontosságát, amely a technológiát körülvevő globális szabályokat alakítja.
„Amerikának meg kell határoznia a szabványokat a mesterséges intelligencia felelős fejlesztéséhez és telepítéséhez a világ számára” – mondta Hoffman az ABC Newsnak adott nyilatkozatában. „Alig várjuk, hogy felülvizsgáljuk a jogszabályokat, és együttműködjünk Wiener szenátorral annak érdekében, hogy az AI-politikák minden kaliforniai javát szolgálják, kezeljük a kockázatokat, és erősítsük globális versenyképességünket.”
A törvényjavaslat kidolgozása során Wiener néhány fogalmat kölcsönzött Joe Biden elnök októberben kiadott végrehajtási rendeletéből, például azt a küszöböt, amelyet annak meghatározására használtak, hogy egy mesterséges intelligencia modell elég nagy léptéket ér-e el ahhoz, hogy szabályozást indokoljon.
Ennek ellenére Wiener azt mondta, továbbra is szkeptikus a szövetségi törvényhozás valószínűségével kapcsolatban, amely utánozza a kaliforniai törvényjavaslat megközelítését.
„Szeretném, ha a Kongresszus elfogadna egy erős, innovációt támogató, biztonságot támogató mesterséges intelligencia törvényt” – tette hozzá Wiener. „Nem bízom benne, hogy a Kongresszus bármit is képes lesz tenni a közeljövőben. Remélem, bebizonyítják, hogy tévedek.”
