Sundar Pichai, a Google vezérigazgatója szorgalmazza az internetes cég mérnökeit a Gemini AI alkalmazás azonnali kijavítása érdekében, és az eszköz egyes válaszait „teljesen elfogadhatatlannak” nevezte.
Az új keresőeszköz, amellyel a cég rendelkezik reklámozott mint forradalmár, miután egyes felhasználók arra kérték, hogy készítsen képeket a történelemből származó emberekről, például a 2. világháború alatti német katonákról és a pápákról, akik történelmileg fehérek és férfiak voltak. Ikrek néhány képe náci katonákat ábrázolt Fekete és ázsiai és pápák mint női.
A Google ideiglenesen leállította a Gemini képgenerátort, miután az AI eszköz válaszaira reagált.
„Szeretnék foglalkozni a közelmúltbeli problémákkal a problémás szöveges és képi válaszokkal a Gemini alkalmazásban” – írta Pichai kedden az alkalmazottaknak küldött e-mailben. először a Semafor adta ki és a Google megerősítette. „Tudom, hogy egyes válaszai megsértették a felhasználóinkat, és elfogultságot mutattak – hogy egyértelmű legyen, ez teljesen elfogadhatatlan, és tévedtünk.”
A Gemini képgenerátorának akadozása visszalépést jelent a Google mesterséges intelligencia felé való törekvésében, mivel a keresőóriás lépést akar tartani olyan riválisaival, mint a Microsoft, amely a konkurens Copilot AI eszközt kínálja. Múlt hónapban a Google átkeresztelt Bard, az egy éve bemutatott chatbot, a Gemini, és a megújult terméket a legképességesebb AI-modellnek minősítette.
A technológiai vállalatok „állításuk szerint kiterjedt biztonsági és etikai tesztelésnek vetették alá modelleiket” – mondta Maria Curi, az Axios technológiapolitikai riportere a CBS News-nak. „Nem tudjuk pontosan, mik ezek a tesztelési folyamatok. A felhasználók történelmi pontatlanságokat találnak, így felvetődik a kérdés, hogy ezeket a modelleket túl korán kiengedik-e a világba.”
Pichai feljegyzésében azt mondta, hogy a Google alkalmazottai „éjjel-nappal dolgoznak ezen problémák megoldásán. Már most is jelentős előrelépést tapasztalunk a felszólítások széles körében”.
Hozzátette: „Semmilyen mesterséges intelligencia sem tökéletes, különösen az iparág fejlődésének ebben a feltörekvő szakaszában, de tudjuk, hogy a léc magasan van számunkra, és ezen maradunk, ameddig csak kell. És áttekintjük, mi történt, és megbizonyosodunk arról, hogy léptékben javítjuk.”
A mesterséges intelligencia által hajtott csevegőbotok is felkeltik a figyelmet, hogy milyen szerepet játszhatnak majd az őszi amerikai választásokon. Egy kedden közzétett tanulmány megállapította, hogy a Gemini és négy másik, széles körben használt mesterséges intelligencia eszköz eredményes volt pontatlan választási információk az esetek több mint felében még a szavazók irányításával is olyan szavazóhelyiségekbe mennek, amelyek nem léteznek.
A szakértők felvetették aggodalmak hogy a mesterséges intelligencia erőteljes új formáinak megjelenése azt eredményezheti, hogy a választók hamis és félrevezető információkat kapnak, vagy akár el is veszik az emberek kedvét attól, hogy elmenjenek szavazni.
