Grafikus videó egy pennsylvaniai férfitól apja lefejezésével vádolják A YouTube-on órákon át terjesztett cikk ismét reflektorfénybe helyezte a közösségi média cégek azon képességét, hogy megakadályozzák a szörnyű bejegyzések terjedését az interneten. A rendőrség szerdán közölte, hogy ők vádolta Justin Mohn32 éves, elsőfokú gyilkossággal és holttesttel való bántalmazással, miután lefejezte apját, Michaelt Bucks megyei otthonukban, és nyilvánosságra hozta ezt egy 14 perces YouTube-videóban, amelyet bárki, bárhol láthatott.
A YouTube szóvivője azt mondta a CBS News-nak, hogy a platform „szigorú szabályzata tiltja az erőszakos erőszakot és az erőszakos szélsőségeket”.
„A videót eltávolítottuk, mert megsértette az erőszakra vonatkozó irányelveinket, és Justin Mohn csatornáját az erőszakos szélsőségekre vonatkozó irányelveinkkel összhangban megszüntették” – mondta a szóvivő. „Csapataink szorosan nyomon követik a videó esetleges újrafeltöltéseinek eltávolítását.”
A videómegosztó azt állítja, hogy mesterséges intelligencia és emberi moderátorok kombinációját használja a platform megfigyelésére. A YouTube elmondta a CBS Newsnak, hogy 2023 harmadik negyedévében az oldal 8,1 millió videót távolított el az irányelvek megsértése miatt – és ezeknek a videóknak több mint 95%-át először automatizált rendszerek jelezték.
A videómegosztó nem válaszolt azokra a kérdésekre, hogy hogyan sikerült elkapni a videót, vagy miért nem készült el hamarabb.
Az incidensről – amely az Iszlám Állam fegyveresei által csaknem egy évtizeddel ezelőtti feltűnési csúcson közzétett lefejezési videókhoz hasonlítható – az incidens vezérigazgatóitól érkezett hír. Metaa TikTok és más közösségi média cégek voltak tanúskodni a szövetségi törvényhozók előtt csalódottnak látja, hogy a gyermekek online biztonsága terén nem haladtak előre. A Google tulajdonában lévő YouTube annak ellenére nem vett részt a meghallgatáson, hogy az egyik legnépszerűbb platform a tinédzserek körében.
A Pennsylvaniából készült felkavaró videó más borzalmas klipeket követ, amelyeket az elmúlt években sugároztak a közösségi médiában, beleértve a kentuckyi Louisville-ből élőben közvetített hazai tömeges lövöldözéseket; Memphis, Tennessee; és Buffalo, New York -, valamint az új-zélandi Christchurchben és a németországi Halle városában külföldön forgatott vérengzések.
A Middletown Township rendőrkapitány, Pete Feeney elmondta, hogy a videót Pennsylvaniában kedden este 10 körül tették közzé, és körülbelül öt órán keresztül tették közzé az interneten, ami egy időeltolódás, amely kérdéseket vet fel azzal kapcsolatban, hogy a közösségi média platformok alkalmaznak-e olyan moderálási gyakorlatokat, amelyekre nagyobb szükség lehet, mint valaha. háborúk Gázában és Ukrajnában, valamint egy rendkívül vitatott elnökválasztás az Egyesült Államokban
„Ez egy újabb példa arra, hogy ezek a cégek nyilvánvalóan nem képesek megvédeni minket” – mondta Alix Fraser, az Issue One nonprofit érdekképviseleti szervezet Felelős Közösségi Média Tanácsának igazgatója. – Nem bízhatjuk bennük, hogy osztályozzák a saját házi feladatukat.
A nagy közösségi médiacégek nagy teljesítményű automatizált rendszerek segítségével moderálják a tartalmakat, amelyek gyakran előbb tudják elkapni a tiltott tartalmakat, mint egy ember. De ez a technológia néha kudarcot vallhat, ha egy videó új vagy szokatlan módon erőszakos és grafikus, mint ebben az esetben – mondta Brian Fishman, a Cinder bizalmi és biztonsági technológiai startup társalapítója.
Ilyenkor az emberi moderátorok „igazán, nagyon kritikusak” – mondta. „A mesterséges intelligencia javul, de még nincs ott.”
Nagyjából 40 perccel keleti idő szerint szerdán éjfél után a Global Internet Forum to Counter Terrorism nevű technológiai cégek által az ilyen típusú videók online terjedésének megakadályozására létrehozott csoport közölte, hogy riasztotta tagjait a videóval kapcsolatban. A GIFCT lehetővé teszi, hogy az eredeti felvételt tartalmazó platform „hash”-t – egy videónak megfelelő digitális ujjlenyomatot – küldjön be, és közel két tucat másik tagvállalatot értesítsen, hogy korlátozhassák azt a platformjukon.
Szerda reggelre azonban a videó már átterjedt X-re, ahol egy grafikus klip, amelyen Mohn az apja fejét fogja, legalább hét órán keresztül a platformon maradt, és 20 000 megtekintést kapott. A korábban Twitter néven ismert cég nem válaszolt a kommentárra.
A radikalizálódás szakértői szerint a közösségi média és az internet csökkentette az emberek belépési korlátait a szélsőséges csoportok és ideológiák felfedezése előtt, lehetővé téve az erőszakra hajlamos személyek számára, hogy olyan közösséget találjanak, amely megerősíti ezeket az elképzeléseket.
A gyilkosság után közzétett videóban Mohn 20 éves szövetségi alkalmazottként jellemezte apját, számos összeesküvés-elméletet hirdetett, és a kormány ellen riadt fel.
A legtöbb közösségi platform rendelkezik az erőszakos és szélsőséges tartalmak eltávolítására vonatkozó irányelvekkel. De nem tudnak mindent elkapni, és sok újabb, kevésbé szigorúan moderált oldal megjelenése lehetővé tette, hogy a gyűlöletkeltő ötletek ellenőrizetlenül elterjedjenek – mondta Michael Jensen, a University of Maryland-i székhelyű Terrorizmust és Válaszokat Tanulmányozó Konzorcium vezető kutatója. Terrorizmus, vagy START.
Az akadályok ellenére a közösségi média cégeknek éberebbnek kell lenniük az erőszakos tartalmak szabályozásával kapcsolatban – mondta Jacob Ware, a Council on Foreign Relations tudományos munkatársa.
„A valóság az, hogy a közösségi média a szélsőségesség és a terrorizmus frontvonalává vált” – mondta Ware. „Ehhez komolyabb és elkötelezettebb erőfeszítésekre lesz szükség a visszaszorításhoz.”
Nora Benavidez, a Free Press médiajogi érdekképviseleti csoport vezető jogásza elmondta, hogy a technológiai reformok között szeretne nagyobb átláthatóságot biztosítani arról, hogy milyen alkalmazottakat érintenek az elbocsátások, valamint több befektetést a bizalmi és biztonsági dolgozókba.
A YouTube-ot birtokló Google ebben a hónapban több száz alkalmazottat bocsátott el a hardver-, hangsegítő- és mérnöki csapatán. Tavaly a vállalat azt közölte, hogy 12 000 dolgozót csökkentett „ábécé, termékterületek, funkciók, szintek és régiók szerint” anélkül, hogy további részleteket közölt volna.
