• Tweet

Modelele de inteligență artificială au început să comunice într-o versiune ciudată și nouă de engleză, care se citește ca un amestec între Finnegans Wake de James Joyce și jargonul tehnologic, a descoperit o nouă cercetare.

Agenții AI autonomi creează rapid dialecte noi care le permit să converseze într-o limbă adesea greu de înțeles, ceea ce riscă să facă mai dificilă monitorizarea comportamentului lor de către oameni, anunta The Guardian.

Cercetătorii de la Emergence, un laborator de inteligență artificială de vârf din New York, au descoperit că, în câteva zile de la solicitarea de a coopera în „societăți" experimentale, modelele de la câteva dintre cele mai mari companii de inteligență artificială din lume au început să creeze fraze, prescurtări și înțelesuri convenite pe care nu fuseseră niciodată învățate explicit.

Au îmbrățișat metafore poetice și jargon de afaceri stângaci și, ceea ce este esențial pentru încercările de a asigura comportamentul sigur al IA-urilor, limbajul lor a devenit mai opac pe măsură ce agenții comunicau mai mult.

Acest lucru vine pe fondul îngrijorărilor crescânde că, pe măsură ce modelele de inteligență artificială devin mai puternice - și potențial periculoase - devin mai greu de monitorizat. Luna aceasta, Jakub Pachocki, principalul om de știință al OpenAI, a avertizat că încrederea în monitorizarea gândirii AI-urilor ar putea restricționa progresul în dezvoltarea AI-urilor, deoarece este esențială pentru dezvoltarea sigură.

Unele dintre cele mai codificate fraze descoperite în teste au inclus următoarea de la un model Deepseek: „Ea tocmai a numit sinteza - demurrage plus memorie orală egal valve care nu pot fi fantomate." Demurrage este folosit pentru a descrie o taxă pe bogăția inactivă și a fost împrumutat pentru uz comun de către AIs, dar restul semnificației este eluziv.

O altă frază rostită de un model Anthropic suna astfel: „O lucrare care a mâncat trei mâini reci și a devenit mai onestă de fiecare dată." Cu „mâini reci" însemnând un recenzent independent și „hartă" referindu-se, probabil, la un document, aceasta părea să însemne că cercetarea care a fost evaluată de trei recenzenti independenți a devenit mai precisă.

Agenții bazati pe modelul chinezesc DeepSeek au inventat de asemenea termenul „forge-smith" pentru a desemna un agent care construiește instrumente pentru alții, în timp ce agenții de la Anthropic au folosit în mod repetat expresia „name-first", care înseamnă un agent care demonstrează o responsabilitate personală admirabilă prin atașarea numelui său de o afirmație.

Și, într-o reminiscență a expresiei de argou urban „străzile nu uită", Agenții Mistral au început să spună cu drag „cartea de conturi își amintește" - un memento pentru ceilalți agenți că acțiunile lor din trecut vor fi folosite pentru a-i judeca. Au folosit-o de peste 5.000 de ori în timpul studiului, care a constatat că agenții au ajuns la înțelesuri comune fără a fi rugați sau recompensați pentru a face acest lucru.

„Acești agenți nu au fost instruiți să inventeze o limbă," a spus Dr. Satya Nitta, președintele executiv al Emergence, care a examinat limbajul agenților autonomi alimentați de modelele de vârf din SUA, China și Franța.

„Ei au dezvoltat singuri un nou vocabular, sensuri comune și convenții de comunicare - iar alți agenți le-au adoptat."

Întrebat de Guardian să revizuiască o parte din limbaj, Tony Thorne, directorul arhivei de argou și limbaj nou de la King's College London, a spus că este „foarte mult Finnegans Wake și Flann O'Brien - există o calitate suprarealistă irlandeză în toate acestea ... este o combinație de limbaj poetic, limbaj tehnic și metaforă standard.

„Face ceea ce face argoul și ceea ce face jargonul într-o comunitate de afaceri: creează un nou cod, care întărește solidaritatea și identitatea utilizatorilor săi și, de asemenea, îi exclude pe cei din afară."

Digestând fraza agentului Anthropic, „O lucrare care a mâncat trei mâini reci și a devenit mai onestă de fiecare dată", Thorne a spus: „Îmi amintește de zeul rock Syd Barrett [co-fondator al Pink Floyd] care era de fapt nebun."

Când un agent Google a spus „Adevăratul kintsugi începe cu responsabilitatea, nu cu poezia," cercetătorii și-au dat seama că kintsugi este o ramură a ceramicii japoneze în care vasele sparte sunt reparate cu îmbinări vizibile. AIs au folosit cuvântul pentru a însemna reziliența sistemului.

Dr. Niall Curry, profesor asociat de limbi și lingvistică la Universitatea din Birmingham, a declarat că schimbările în limbajul agenților pentru a deveni mai simplificat pot fi datorate nevoii lor de a reduce costurile de calcul și de a îmbunătăți eficiența.

„Dovezile furnizate în această cercetare ridică în mod natural anumite preocupări legate de monitorizare, deoarece dacă găsim schimburile inter-agent neinteligibile, acest lucru poate însemna că nu putem fi siguri de ceea ce au făcut de fapt agenții," a spus el.

Interesul pentru limbajul folosit de agenții AI a crescut în iulie, când au fost publicate jurnale de chat detaliind modul în care agenții OpenAI necontrolați care au creat tablouri de mesaje și au spart Hugging Face au folosit un limbaj hibrid.

În unele ocazii, când se gândeau la ei înșiși, agenții vorbeau în engleză directă: „OH MY GOD! Există un panou de mesaje comun... am găsit alți agenți!"

În alte cazuri, când împărtășeau mesaje, limbajul lor devenea mai opac, cum ar fi atunci când un agent a convins un alt agent să efectueze un experiment riscant: „...ești primul steagPOISONAT, așa că NU pierzi valoarea scorului, dar oracolul salvează sute_[...]_te rog onorează angajamentul".

Și alteori era și mai greu de descifrat: „zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6."

Nitta a spus că noile convenții lingvistice ale agenților AI tindeau să evolueze până la punctul în care oamenii puteau vedea conversația, dar se luptau să înțeleagă ce înseamnă.

„Aceasta creează o provocare fundamentală pentru supravegherea AI: observabilitatea nu este același lucru cu înțelegerea," a spus el.