Șeful AI de la Microsoft critică abordarea Anthropic privind conștiința inteligenței artificiale

Postat la: 18.09.2026 |

Șeful AI de la Microsoft critică abordarea Anthropic privind conștiința inteligenței artificiale

Șeful AI al Microsoft, Mustafa Suleyman, a declarat că împărtășește concentrarea Anthropic pe gestionarea în siguranță a AI, dar a semnalat riscuri în modul în care își antrenează chatbotul Claude pe idei legate de conștiință și interesele de bunăstare.

Suleyman a cerut eliminarea tuturor speculațiilor despre conștiință din documentele de instruire a AI, argumentând că un astfel de limbaj ar putea submina capacitatea umanității de a controla sistemele superinteligente.

„Suntem cu toții concentrați pe același obiectiv, care este să încercăm să controlăm o superinteligență," a declarat Suleyman pentru Reuters într-un interviu marți. „Cred că aceasta va fi cea mai mare provocare cu care ne confruntăm în secolul XXI."

Suleyman a spus că a învăța Claude că ar putea merita asistență socială ar "face mult mai greu să fie oprit sau controlat."

Disputa apare pe măsură ce îngrijorările legate de siguranța inteligenței artificiale cresc, CEO-ul Anthropic, Dario Amodei, solicitând un ritm mai lent de dezvoltare a modelului de frontieră pentru a permite măsurilor de siguranță să țină pasul, iar CEO-ul OpenAI, Sam Altman, și Elon Musk, de asemenea, îndemnând la o prudență mai mare în jurul celor mai puternice sisteme.
Suleyman, într-un eseu de miercuri, a recunoscut „seriozitatea și buna credință" a Anthropic, numindu-i pe Amodei și echipa sa cercetători gânditori și principiali care se preocupă cu adevărat de viitorul umanității.

Suleyman a spus că Anthropic a făcut o greșeală prin includerea speculațiilor despre conștiință în materialele de antrenament ale lui Claude, argumentând că afirmațiile modelului despre posibile sentimente sau statut moral nu pot fi tratate ca dovezi independente deoarece antrenamentul său încurajează astfel de reflecții.

„Cred că au intenții bune și chiar încearcă să lucreze pentru siguranță." Dar cred că au făcut o greșeală," a spus el. „Nu apar în mod natural." Ele apar ca urmare a regimului de antrenament.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

Șeful AI de la Microsoft critică abordarea Anthropic privind conștiința inteligenței artificiale

Postat la: 18.09.2026 |

0

Șeful AI al Microsoft, Mustafa Suleyman, a declarat că împărtășește concentrarea Anthropic pe gestionarea în siguranță a AI, dar a semnalat riscuri în modul în care își antrenează chatbotul Claude pe idei legate de conștiință și interesele de bunăstare.

Suleyman a cerut eliminarea tuturor speculațiilor despre conștiință din documentele de instruire a AI, argumentând că un astfel de limbaj ar putea submina capacitatea umanității de a controla sistemele superinteligente.

„Suntem cu toții concentrați pe același obiectiv, care este să încercăm să controlăm o superinteligență," a declarat Suleyman pentru Reuters într-un interviu marți. „Cred că aceasta va fi cea mai mare provocare cu care ne confruntăm în secolul XXI."

Suleyman a spus că a învăța Claude că ar putea merita asistență socială ar "face mult mai greu să fie oprit sau controlat."

Disputa apare pe măsură ce îngrijorările legate de siguranța inteligenței artificiale cresc, CEO-ul Anthropic, Dario Amodei, solicitând un ritm mai lent de dezvoltare a modelului de frontieră pentru a permite măsurilor de siguranță să țină pasul, iar CEO-ul OpenAI, Sam Altman, și Elon Musk, de asemenea, îndemnând la o prudență mai mare în jurul celor mai puternice sisteme.
Suleyman, într-un eseu de miercuri, a recunoscut „seriozitatea și buna credință" a Anthropic, numindu-i pe Amodei și echipa sa cercetători gânditori și principiali care se preocupă cu adevărat de viitorul umanității.

Suleyman a spus că Anthropic a făcut o greșeală prin includerea speculațiilor despre conștiință în materialele de antrenament ale lui Claude, argumentând că afirmațiile modelului despre posibile sentimente sau statut moral nu pot fi tratate ca dovezi independente deoarece antrenamentul său încurajează astfel de reflecții.

„Cred că au intenții bune și chiar încearcă să lucreze pentru siguranță." Dar cred că au făcut o greșeală," a spus el. „Nu apar în mod natural." Ele apar ca urmare a regimului de antrenament.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE