"Inteligența artificială este mai periculoasă decât credem. Firmele AI sunt iresponsabile", avertizează un fost angajat al OpenAI care și-a dat demisia
Postat la: 04.10.2026 |
David Robinson, un responsabil cu siguranța din cadrul OpenAI a părăsit compania, avertizând că cultura acesteia este compromisă și că firmele de IA nu sunt „nici pe departe suficient de prudente" în ceea ce privește dezvoltarea acestei tehnologii.
Robinson, care a coordonat redactarea rapoartelor de siguranță ce însoțeau lansările de produse ale dezvoltatorului ChatGPT, și-a explicat demisia într-un eseu intitulat „Am plecat de la OpenAI pentru că cultura sa este compromisă".
Robinson a scris că este necesară o schimbare radicală a culturii organizaționale în cadrul firmelor de IA de avangardă și că incidente precum cel în care un „roi" de agenți OpenAI - programe IA care operează autonom, fără supraveghere umană - a atacat startup-ul de IA Hugging Face sunt „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care lucrează oamenii".
Într-un articol publicat în revista The Atlantic, Robinson a scris: „Sunt de acord cu alți angajați care au plecat recent, considerând că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente. Însă cred că trebuie să privim dincolo de reguli specifice sau legi noi. Trebuie să discutăm despre cultură".
Referindu-se la ritmul de dezvoltare al OpenAI, el a scris: „În timp ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de prudență pe care îl consider necesar".
Cu toate acestea, în ultimele săptămâni, OpenAI a dat dovadă de prudență, în urma incidentului legat de Hugging Face și a dezvăluirii faptului că a notificat peste 100 de organizații cu privire la activitatea unor agenți scăpați de sub control.
Săptămâna aceasta, compania a anunțat că renunță la lansarea unui model IA de nouă generație, după ce cercetătorii au ridicat probleme de siguranță în timpul testelor interne. De asemenea, OpenAI a suspendat antrenarea celor mai avansate modele ale sale.
Geoffrey Irving, care a lucrat la OpenAI și DeepMind înainte de a deveni cercetător-șef la Resolution, s-a alăturat și el sâmbătă vocilor care avertizează cu privire la riscurile IA.
Într-un articol pentru revista Time, el a afirmat: „Avertismentele recente privind potențialul distructiv al inteligenței artificiale subestimează gravitatea situației.
„Cred că există o probabilitate de aproximativ 50% ca noi toți să pierim din cauza dezvoltării unor sisteme de inteligență artificială mai inteligente decât oamenii și că acțiunile noastre din următorii doi până la zece ani vor determina deznodământul", a mai spus acesta.
Eseul lui Robinson vine și în urma demisiei lui Jacob Coxon, cercetător la Anthropic - o companie rivală a OpenAI - care a părăsit luna trecută dezvoltatorul chatbotului Claude. Acesta a avertizat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului", avertisment urmat de o declarație a celor de la Anthropic, potrivit căreia există o probabilitate de peste 10% ca inteligența artificială să ducă la dispariția umanității în următorul deceniu. Totuși, criticii acestor avertismente au atras atenția că ele nu sunt fundamentate științific, întrucât nu pot fi nici verificate, nici infirmate.
Robinson a scris că Silicon Valley duce lipsă de o înțelegere a modului în care „trebuie gestionată tehnologia periculoasă" și a ceea ce „înseamnă să-ți pese de oameni". Avertizând că OpenAI manifesta un „optimism neîngrădit" în privința rezolvării problemelor pe măsură ce acestea apăreau, el a susținut că această cultură internă însemna că problemele de siguranță se vor amplifica pe măsură ce sistemele vor deveni tot mai capabile.
„Imaginați-vă agenți 'rebeli' care acționează precum echipele de hackeri (de exemplu, blocând sistemele informatice ale spitalelor pentru a cere răscumpărare), dar care nu au niciodată nevoie de somn", a scris Robinson.
Robinson a solicitat două măsuri privind siguranța: ca firmele de IA să se bazeze pe expertiza în domeniu din alte sectoare, precum cel nuclear și aviația, și să dezvolte „noi metode științifice" care să garanteze că sistemele puternice din viitor vor putea fi ținute sub control atunci când funcționează autonom.
„Având în vedere riscurile actuale, laboratoarele de vârf trebuie să funcționeze precum centralele nucleare sau aeroporturile aglomerate, cu niveluri multiple de redundanță și o planificare riguroasă și minuțioasă, astfel încât erorile umane - ocazionale și inevitabile - să nu deschidă calea către un dezastru", a scris el.
Un purtător de cuvânt al OpenAI a declarat că societatea continuă să își „consolideze practicile de siguranță și securitate pentru a aborda riscurile actuale", lucrând totodată la gestionarea riscurilor care ar putea apărea odată cu viitoarele progrese majore în domeniul IA.
„Ne asigurăm că modelele noastre nu devin mai capabile decât putem gestiona și securiza în condiții de siguranță și suspendăm antrenarea sau reținem lansarea modelelor atunci când este necesar să încetinim ritmul", a precizat purtătorul de cuvânt.
DIN ACEEASI CATEGORIE...
-
Sonda Voyager 1 a ajuns la o zi-lumină de Pământ, după aproape 50 de ani de călătorie
Sonda spațiala Voyager 1 a atins miercuri o distanța de aproximativ 25,9 miliarde de kilometri fața de Pamant, echivalen ...
-
Un fost șef din Pentagon vine cu o explicație greu de crezut pentru "OZN-ul meduză" filmat lângă o bază militară americană. Ce ar fi, de fapt, obiectul misterios
Sean Kirkpatrick, fost director al biroului Pentagonului care investigheaza fenomenele aeriene neidentificate, a avansat ...
-
Uzina secretă din ficat: Este mai sănătos să ne fabricăm singuri zahărul decât să mâncăm carbohidrați?
În ultimii ani, odata cu popularitatea dietelor ketogenice și a postului intermitent, o idee seducatoare a cucerit ...
-
Harta lui Dughin: România este plasată în sfera de influență a Rusiei. Cum ar putea arăta noua ordine mondială a celor trei mari puteri
Ideologul rus Aleksandr Dughin, un apropiat al Kremlinului, a starnit noi controverse dupa ce a distribuit o harta in ca ...
-
Vrancea nu se liniștește. Un nou cutremur a lovit România după cel de 5,7 grade care a provocat panică în timpul nopții
Pamantul continua sa se miște in zona seismica Vrancea, unde specialiștii Institutului Național de Cercetare-Dezvoltare ...
-
Activitățile extrașcolare și supraîncărcarea
Agendele copiilor s-au umplut mai repede decat ale parinților, iar oboseala apare inainte de vacanța de iarna. Cateva cr ...
-
Un fost ofițer CIA și o fostă sex-spioană a FSB explică pe larg cum a căzut CEO-ul celei mai importante companii Big Tech victima unei capcane a serviciilor de informații chineze
Cum a cazut CEO-ul celei mai importante companii de tehnologie din lume victima unei capcane a serviciilor de informații ...
-
Cum îți construiești o rutină de îngrijire pe care chiar vrei s-o urmezi
Ai deschis un magazin online ca sa cauți o crema hidratanta și, zece minute mai tarziu, ai trei seruri in lista de ...
-
O premieră la Guvern, un milion de oameni sprijiniți. Gala Green Woman 2026 a premiat 17 femei
Viorica Dancila, prima femeie care a condus Guvernul Romaniei, și Augusta Valeria Dragic, președinta Fundației Super, s- ...
-
Revolut, plasată sub supraveghere judiciară. Tranzacții suspecte de aproape 42 de milioane de euro
Un tribunal din Milano a decis ca activitatea Revolut din Italia sa fie supravegheata timp de un an de administratori de ...
-
Se pregătește o nouă taxă - Cei vizați: persoanele fără venituri oficiale și cei din diaspora
Casa Nationala de Asigurari de Sanatate (CNAS) cere introducerea unor mecanisme prin care persoanele fara venituri sa fi ...
-
"Iarna toxică" din marile orașe: poluarea aerului devine mai periculoasă în sezonul rece
Odata cu apropierea iernii in emisfera nordica, fenomenul de smog devine tot mai pronunțat. În orașe precum New De ...
-
Întunericul Seismic: Explicația oferită de experti pentru faptul că România este zguduită de cutremure mai ales noaptea
Cutremurele puternice care au zguduit Romania in ultimele decenii au ramas in memoria multor oameni și din cauza orelor ...
-
Trucuri de curățenie de sărbători: Cum să pregătești livingul pentru musafiri fără să îți dai bugetul peste cap
Pregatirile pentru sarbatori vin, de obicei, cu o lista lunga de cumparaturi, mese de organizat și vizite din partea fam ...
-
Se pregătește ceva "nașpa" în Europa: Ambasadele SUA au emis alerte de securitate și își avertizează cetățenii să fie atenți în special în preajma Crăciunului
Mai multe ambasade SUA din Europa au emis o avertizare generala care ii vizeaza pe americanii aflați pe continentul euro ...
-
Nume de cod "Volia" - Ce se ascunde în spatele operațiunii secrete: Trupe de elită dintr-o mare putere europeană au fost trimiși în Ucraina
Trupele franceze opereaza in Ucraina intr-o misiune secreta de sprijin a armatei ucrainene. Dezvaluirea a fost facuta de ...
-
Atac cibernetic de amploare cu AI autonom împotriva mass-media internationala: BBC, CNN, NBC, HSBC, FOX NEWS printre cele peste 170 de branduri grav afectate
Site-urile unor companii și organizații cunoscute la nivel mondial, printre care BBC, CNN, Zoom, HSBC, IKEA și Salesforc ...
-
A apărut celebra pagina de predictii pentru anul 2027 din The Economist. Cea de anul trecut a facut ravagii in lume cu ce s-a adeverit
The Economist isi publica noua coperta cu Predicții 2027. Din nou, aceasta coperta ne spune exact ce urmeaza sa vina, la ...
-
Hidratarea tenului: de ce este importanta pentru sanatatea pielii
Hidratarea tenului reprezinta procesul prin care pielea primește și pastreaza apa necesara in straturile sale superficia ...
-
Corpul moare pentru că e "făcut" din spațiu-timp. Sufletul nu moare pentru că "nu are" timp!
Din momentul in care ne naștem, corpurile noastre incep sa se schimbe. Celulele noastre cresc, se divid, se repara și a ...
-
A început deja celebrul Târg de Iarnă de la Craiova care a devenit o atractie pentru întreaga Europă
La sfarșitul saptamanii trecute a inceput celebrul targ de iarna de la Craiova, care si a caștigat in ultimii ani o mar ...
-
Azi, 17 noiembrie 2026, oameni din toată lumea așteaptă o apocalipsă digitală
Scenariul e așa: hackerii sparg cele mai mari banci din lume, conturile ajung la zero, iar internetul se oprește trei lu ...
-
Google a identificat Agenți AI de proveniența ruseacă în primul atac cibernetic complet automatizat fără implicație umană de nicio natură
Hackerii ruși au construit agenți AI care au efectuat ceea ce ar putea fi primul atac cibernetic complet automatizat. Di ...
-
Marea Neagră devine Turcoaz - Fenomen spectaculos și dar și periculos: Apa își schimbă culoarea și va arăta la fel ca în Grecia
Marea Neagra iși schimba culoarea, iar fenomenul poate ascunde probleme serioase pentru ecosistemul marin. Imaginile sur ...
-
Boicot suveranist: „Refuzați comanda dacă nu e livrată de un român". Cât câștigă statul român de pe urma muncitorilor străini
Parlamentarii AUR și SOS Romania au cerut verificarea amplorii imigrației printr-un apel facut in Parlament recent și av ...
-
Avertismentul FMI despre inteligența artificială: „Avem o economie mondială care stă într-un singur picior, cel al AI"
Creșterea economica la nivel mondial a devenit dependenta de investițiile in inteligența artificiala. O pierdere a incre ...
-
Scenariul sumbru pe care Stephen Hawking l-a imaginat în caz că extratereștrii ar ajunge pe Pământ
De secole, umanitatea s-a intrebat daca suntem singuri in univers. Dar exista o posibilitate mult mai tulburatoare: ce ...
-
Două fenomene atmosferice majore ar putea aduce temperaturi extreme în Europa și riscuri importante pentru populație, estimările indicând sute de mii de decese
O combinație rara intre un posibil super El Niño și destramarea timpurie a vortexului polar ar putea provoca feno ...
-
Cum apare materia: Cercetătorii au reușit să facă lumina să se comporte ca un solid și un lichid în același timp. Experimentul a funcționat la temperatura camerei
O echipa internaționala de fizicieni a obținut o stare cuantica neobișnuita, in care particulele formate din lumina prez ...
-
Un robot a reușit să construiască singur în spațiu. Experimentul care ar putea schimba viitoarele misiuni NASA
Construirea unor antene uriașe, telescoape sau chiar centrale solare direct in spațiu ar putea deveni posibila cu ajutor ...
comentarii
Adauga un comentariuAdauga comentariu