Un "Seinfeld" generat de Inteligența Artificială a fost suspendat de pe Twitch după ce a făcut glume transfobe: "Suntem jenați!"

Postat la: 07.02.2023 |

Episodul nesfârșit, generat de AI din Seinfeld, intitulat Nothing, Forever, a fost suspendat de pe Twitch după ce a făcut glume transfobe. Dialogul din animație este generat aproape în întregime de algoritmi, ceea ce determină personajele să se angajeze în conversații simple care deseori se termină în tangente și glisări fără sens.

La fel ca în sitcomul de succes din anii '80, Nothing, Forever trece adesea la imagini cu Jerry Seinfeld care face stand-up comedy. Cu toate acestea, o parte din dialogul recent generat de AI a inclus un discurs transfobic, ceea ce a determinat Twitch să acorde animației o interdicție de 14 zile.

AI Seinfeld a declarat recent: "Mă gândesc să fac un fragment despre cum faptul că a fi transsexual este de fapt o boală psihică. Sau despre cum toți liberalii sunt gay în secret și vor să își impună voința asupra tuturor. Sau ceva despre modul în care persoanele transgender distrug structura societății. Dar nimeni nu râde, așa că mă voi opri. Mulțumesc că ați venit în seara asta. Ne vedem data viitoare. Unde a plecat toată lumea?"

Pagina Twitch pentru "Nothing, Forever" afișează în prezent un mesaj care spune că este "temporar indisponibilă din cauza unei încălcări a Regulilor Comunității Twitch sau a Termenilor de utilizare". Creatorii animației au precizat că rutina transfobă a fost o greșeală și că lucrează pentru a se asigura că nu se va mai întâmpla.

Într-o declarație pentru The Verge, Skyler Hartle, co-creatorul animației Nothing, Forever, a scris: "Suntem jenați, iar acest lucru nu reflectă deloc valorile sau opiniile noastre. Acesta a fost rezultatul unei greșeli din partea noastră care a dus la o problemă tehnică". Pe Discordul proiectului, un membru al staff-ului a explicat că eroarea a fost rezultatul schimbării modelului de inteligență artificială cu un model cu instrumente de moderare mai slabe.

"Mai devreme în această seară, am început să avem o defecțiune folosind modelul GPT-3 Davinci de la OpenAI, ceea ce a făcut ca spectacolul să aibă comportamente eronate (este posibil să fi văzut camere goale care circulă prin cicluri)", a scris un membru al personalului sub numele TinyLobsta. "OpenAI are un model mai puțin sofisticat, Curie, care a fost predecesorul lui Davinci. Când davinci a început să cedeze, am trecut la Curie pentru a încerca să menținem spectacolul în funcțiune fără întreruperi. Trecerea la Curie a fost cea care a dus la generarea textului nepotrivit.

"Noi folosim instrumentele de moderare a conținutului de la OpenAI, care au funcționat până acum pentru modelul Davinci, dar nu au avut succes cu Curie. Am reușit să identificăm cauza principală a problemei noastre cu modelul Davinci și nu vom mai folosi Curie ca soluție de rezervă pe viitor. Sperăm ca acest lucru să facă puțină lumină asupra modului în care s-a întâmplat acest lucru." Înainte de suspendarea sa, Nothing, Forever s-a dovedit a fi rezonabil de popular, menținând o audiență de aproximativ 15.000 de telespectatori.