A ChatGPT mögött álló cég újabb úttörő, generatív mesterséges intelligencia eszköze, amelyet csütörtökön mutattak be, várhatóan felgyorsítja a mélyhamisított videók elterjedését, és gyakorlatilag minden iparágra hatással lesz.
A Sora, egy mesterséges intelligencia-alkalmazás, amely írásos felszólításokat fogad, és azokat eredeti videókká alakítja, már olyan erős, hogy az egyik AI-szakértő szerint ez „megrémíti”.
„A generatív mesterséges intelligencia eszközök olyan gyorsan fejlődnek, és van közösségi hálózatunk – ami demokráciánk Achilles-sarkához vezet, és ez nem is történhetett volna rosszabbkor” – mondta Oren Etzioni, a TruMedia.org alapítója a CBS MoneyWatch-nek. Az AI-alapú dezinformáció elleni küzdelemmel foglalkozó nonprofit szervezet a politikai kampányokban a manipulált média azonosítására összpontosít, beleértve a úgynevezett deepfake videók.
„Amikor megpróbáljuk ezt megoldani, a történelem egyik legkövetkezményesebb választásával állunk szemben” – tette hozzá a 2024-es elnökválasztásra utalva.
Sora készítő OpenAI megosztott X-en készült szöveg-videó modelljének előzetese, amely elmagyarázza, hogy azonnal kifinomult, 60 másodperces videókat tud készíteni „nagyon részletgazdag jelenetekkel, összetett kameramozgással és több karakterrel, élénk érzelmekkel”.
Az eszköz még nem elérhető nyilvánosan. Az OpenAI egyelőre a „vörös csapattagokra” és néhány képzőművészre, tervezőre és filmesre korlátozta a használatát, hogy teszteljék a terméket, és visszajelzést küldjenek a vállalatnak, mielőtt szélesebb körben megjelennének.
Az OpenAI szerint a biztonsági szakértők értékelni fogják az eszközt, hogy megértsék, hogyan hozhat létre félreinformációkat és gyűlöletkeltő tartalmakat.
Hamarosan leszállás
Etzioni szerint a technológia fejlődése látszólag meghaladta a fékek és ellensúlyok mértékét az ilyen típusú eszközökkel kapcsolatban.
„Megpróbáljuk megépíteni ezt a repülőgépet, ahogy repülünk, és novemberben fog leszállni, ha nem korábban – és nincs a Szövetségi Légiközlekedési Hatóságunk, nincs történelmünk és nincs is. megvannak az eszközök ehhez” – mondta.
Csak maga a vállalat akadályozza meg az eszköz széles körben elérhetővé válását – mondta Etzioni, hozzátéve, hogy bízik benne, hogy a Sora, vagy az OpenAI versenytársának hasonló technológiája a következő hónapokban a nyilvánosság elé kerül.
Természetesen minden hétköznapi polgárt érinthet egy mélyhamis átverés, a hírességeken kívül.
„És (Sora) még könnyebbé teszi a rosszindulatú szereplők számára a jó minőségű mélyhamisítások létrehozását, és nagyobb rugalmasságot biztosít számukra olyan videók létrehozásában, amelyek sértő célokra használhatók fel” – mondta Dr. Andrew Newell, az azonosítás-ellenőrző cég tudományos igazgatója. , iProov, mondta a CBS MoneyWatch-nek.
Ez a szervezetekre, például a bankokra hárítja a felelősséget, hogy saját mesterségesintelligencia-alapú eszközöket fejlesszenek ki a fogyasztók potenciális fenyegetésekkel szembeni védelme érdekében.
A videohitelesítési biztonsági intézkedésekre támaszkodó bankok a leginkább kiszolgáltatottak – tette hozzá.
Fenyegetés a színészekre, alkotókra
Az eszköz képességei a legszorosabban kapcsolódnak a dolgozók tartalomkészítő készségeihez, ideértve a filmkészítést, a médiát és egyebeket.
„A hangszínészek vagy azok az emberek lesznek a leginkább érintettek, akik rövid videókat készítenek videojátékokhoz, oktatási célokra vagy hirdetésekhez” – mondta.
„Az olyan szakmák esetében, mint a marketing vagy a kreatív, a multimodális modellek megváltoztathatják a játékot, és jelentős költségmegtakarítást eredményezhetnek a film- és televíziós készítők számára, és hozzájárulhatnak a mesterséges intelligencia által generált tartalom elterjedéséhez, nem pedig a színészek felhasználásához” – mondta Reece Hayden, a vállalat vezető elemzője. Az ABI Research, egy technológiai hírszerzési vállalat elmondta a CBS MoneyWatch-nek.
Tekintettel arra, hogy bárki számára – még a művészi képességekkel nem rendelkezők számára is – könnyebbé válik a vizuális tartalom létrehozása, a Sora lehetővé teheti a felhasználók számára, hogy saját maguk döntsék el a kalandszerű médiát.
Még egy olyan jelentős szereplő is, mint a „Netflix” képessé teheti a végfelhasználókat arra, hogy saját tartalomfejlesztést hozzon létre az utasítások alapján” – mondta Hayden.
