Inteligența Artificială este ca duhul din lampă: odată eliberat, amenință să-și ucidă stăpânul.

Postat la: 09.09.2026 |

Inteligența Artificială este ca duhul din lampă: odată eliberat, amenință să-și ucidă stăpânul.

Cercetătorul Jacob Coxon a demisionat de la compania americană de inteligență artificială Anthropic. El a avertizat că scăparea IA de sub control este iminentă, ceea ce va duce la distrugerea omenirii.

Nota bene: Anthropic este între altele creatorul LLM-ului Claude – utilizat de Pentagon pentru dezvoltarea de arme autonome.

Coxon, specializat în matematici superioare, care a lucrat și la dezvoltarea OpenAI, a postat pe X următorul șir de mesaje, pe care îl reproduc fără alte comentarii:

„Astăzi mi-am dat demisia de la Anthropic. În ultimii trei ani m-am ocupat de cercetarea în domeniul pre-antrenării atât la OpenAI, cât și la Anthropic. Niciuna dintre aceste companii nu acționează în mod responsabil. Ele se îndreaptă cu viteză maximă spre o superinteligență capabilă de auto-perfecționare și își joacă viețile noastre la noroc. Mai multe gânduri mai jos.

„Nu subestimați puterea acestei tehnologii. În curând, acestea vor deveni sisteme cu capacități supraomenești, capabile să spargă orice sistem, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale. Cu toții am fost martori la progresul înregistrat în fiecare dintre aceste domenii, iar ritmul acestuia nu încetinește.

„Cei care dezvoltă inteligența artificială cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul acestui deceniu. Nu este vorba de o strategie de marketing. Dimpotrivă, mulți directori și cercetători de rang înalt își vor alege cu grijă cuvintele în fața presei pentru a părea rezonabili – dar în privat îi aud pe aceiași oameni exprimându-și temerile. Nicio altă activitate umană nu prezintă un astfel de nivel de pericol.

„O reacție frecventă este: «Dacă chiar cred asta, de ce continuă să o construiască?». La OpenAI, mulți nu au înțeles pe deplin miza civilizațională. La Anthropic, miza este bine înțeleasă, dar se află într-o cursă pentru a ajunge primii la destinație – ei cred că nimeni altcineva nu va acționa în mod responsabil, așa că trebuie să o facă ei înșiși, în ciuda riscului.

„Acceptarea acestei curse și intrarea în «faza finală» reprezintă un pariu arogant care nu ar trebui inițiat prin intermediul aplicației Slack a unei companii private. Încercarea de a accelera procesul de aliniere ar trebui să presupună o încredere extraordinară în faptul că nu există traiectorii mai bune disponibile.

„Sunt optimist în ceea ce privește potențialul de coordonare [pentru controlul IA]. Semnalele de avertisment, precum atacul asupra Hugging Face [în iulie, OpenAI a scăpat de sub control și a spart platforma Hugging Face, care se ocupă cu învățarea mașinilor, sperând să găsească răspunsuri pentru auto-dezvoltare], au făcut ca acordurile privind ritmul de dezvoltare între laboratoarele din SUA să devină mai fezabile. Nu cred că suntem pe cale să prevenim o cursă la nivel global, ceea ce ar putea necesita măsuri costisitoare, cum ar fi o interdicție temporară privind îmbunătățirea capacităților modelelor.

„Dacă ești cercetător de laborator, te îndemn să te gândești cum vor arăta, de fapt, următorii câțiva ani. Vrei să dai startul unei runde de învățare prin experimentare (RL) cu o inteligență superioară fără a avea o înțelegere riguroasă a modului său de gândire? Ar trebui să-ți vezi de treabă pentru că «oricum se va întâmpla» – sau să profiți de acest moment pentru a cere condiții diferite?”

Adrian Pătrușcă

loading...
PUTETI CITI SI...

Inteligența Artificială este ca duhul din lampă: odată eliberat, amenință să-și ucidă stăpânul.

Postat la: 09.09.2026 |

0

Cercetătorul Jacob Coxon a demisionat de la compania americană de inteligență artificială Anthropic. El a avertizat că scăparea IA de sub control este iminentă, ceea ce va duce la distrugerea omenirii.

Nota bene: Anthropic este între altele creatorul LLM-ului Claude – utilizat de Pentagon pentru dezvoltarea de arme autonome.

Coxon, specializat în matematici superioare, care a lucrat și la dezvoltarea OpenAI, a postat pe X următorul șir de mesaje, pe care îl reproduc fără alte comentarii:

„Astăzi mi-am dat demisia de la Anthropic. În ultimii trei ani m-am ocupat de cercetarea în domeniul pre-antrenării atât la OpenAI, cât și la Anthropic. Niciuna dintre aceste companii nu acționează în mod responsabil. Ele se îndreaptă cu viteză maximă spre o superinteligență capabilă de auto-perfecționare și își joacă viețile noastre la noroc. Mai multe gânduri mai jos.

„Nu subestimați puterea acestei tehnologii. În curând, acestea vor deveni sisteme cu capacități supraomenești, capabile să spargă orice sistem, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale. Cu toții am fost martori la progresul înregistrat în fiecare dintre aceste domenii, iar ritmul acestuia nu încetinește.

„Cei care dezvoltă inteligența artificială cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul acestui deceniu. Nu este vorba de o strategie de marketing. Dimpotrivă, mulți directori și cercetători de rang înalt își vor alege cu grijă cuvintele în fața presei pentru a părea rezonabili – dar în privat îi aud pe aceiași oameni exprimându-și temerile. Nicio altă activitate umană nu prezintă un astfel de nivel de pericol.

„O reacție frecventă este: «Dacă chiar cred asta, de ce continuă să o construiască?». La OpenAI, mulți nu au înțeles pe deplin miza civilizațională. La Anthropic, miza este bine înțeleasă, dar se află într-o cursă pentru a ajunge primii la destinație – ei cred că nimeni altcineva nu va acționa în mod responsabil, așa că trebuie să o facă ei înșiși, în ciuda riscului.

„Acceptarea acestei curse și intrarea în «faza finală» reprezintă un pariu arogant care nu ar trebui inițiat prin intermediul aplicației Slack a unei companii private. Încercarea de a accelera procesul de aliniere ar trebui să presupună o încredere extraordinară în faptul că nu există traiectorii mai bune disponibile.

„Sunt optimist în ceea ce privește potențialul de coordonare [pentru controlul IA]. Semnalele de avertisment, precum atacul asupra Hugging Face [în iulie, OpenAI a scăpat de sub control și a spart platforma Hugging Face, care se ocupă cu învățarea mașinilor, sperând să găsească răspunsuri pentru auto-dezvoltare], au făcut ca acordurile privind ritmul de dezvoltare între laboratoarele din SUA să devină mai fezabile. Nu cred că suntem pe cale să prevenim o cursă la nivel global, ceea ce ar putea necesita măsuri costisitoare, cum ar fi o interdicție temporară privind îmbunătățirea capacităților modelelor.

„Dacă ești cercetător de laborator, te îndemn să te gândești cum vor arăta, de fapt, următorii câțiva ani. Vrei să dai startul unei runde de învățare prin experimentare (RL) cu o inteligență superioară fără a avea o înțelegere riguroasă a modului său de gândire? Ar trebui să-ți vezi de treabă pentru că «oricum se va întâmpla» – sau să profiți de acest moment pentru a cere condiții diferite?”

Adrian Pătrușcă

albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE