• Tweet

Fondatorul Microsoft avertizează că persoane rău-intenționate ar putea exploata sisteme de inteligență artificială fără măsuri de protecție, în timp ce președintele companiei, Brad Smith, cere reguli internaționale pentru controlul acestei tehnologii.

Bill Gates a avertizat că inteligența artificială (AI) insuficient reglementată reprezintă o amenințare tot mai mare și a anticipat o intensificare a atacurilor cibernetice facilitate de această tehnologie în următorul an, relatează AFP.

Cofondatorul Microsoft a declarat că riscul ca inteligența artificială să scape de sub control și să producă efecte majore este încă la câțiva ani distanță. În opinia sa, pericolul imediat îl reprezintă persoanele rău-intenționate care folosesc sistemele existente fără măsuri de siguranță.

„Domeniul în care vom vedea, probabil, cele mai spectaculoase evoluții în următorul an va fi cel al atacurilor cibernetice", a declarat Gates într-un interviu acordat postului ABC News.

„Adevăratul pericol în acest moment nu este ca inteligența artificială să scape de sub control. Trebuie să lucrăm și la această problemă, dar impactul major al unui asemenea scenariu este încă la câțiva ani distanță", a spus el.

Gates a subliniat că riscul cel mai urgent vine din utilizarea tehnologiei de către persoane care urmăresc să facă rău, mai ales atunci când sistemele de AI pot fi folosite fără mecanismele de protecție integrate.

El a cerut restricții mai stricte pentru a împiedica utilizarea inteligenței artificiale în scopuri precum bioterorismul și atacurile cibernetice.

„În prezent, poți elimina toate aceste măsuri de protecție. Iar atunci când ai persoane rău-intenționate, sisteme fără protecție și cele mai noi modele de AI, în următorul an vom avea parte de multe surprize negative, în special în domeniul securității cibernetice", a declarat Gates pentru ABC News.

În august, Gates avertizase, într-o amplă analiză publicată online, că lumea este periculos de nepregătită pentru schimbările provocate de inteligența artificială, în special pe piața muncii.

El se alătură astfel unui număr tot mai mare de lideri din industria tehnologiei care atrag atenția asupra riscurilor asociate acestei tehnologii.

În interviul acordat duminică, 11 octombrie, Gates a respins ideea, susținută de președintele american Donald Trump, potrivit căreia companiile de inteligență artificială ar trebui să se autoreglementeze pentru a proteja societatea.

„Să considerăm că, în cazul celei mai periculoase tehnologii inventate vreodată de oameni, companiile însele ar trebui să fie singurul mecanism de control al societății este o abordare insuficientă. Este clar că nu facem destul", a afirmat el.

Declarațiile sale vin în contextul unei dezbateri tot mai intense privind necesitatea unor reguli care să limiteze riscurile inteligenței artificiale, fără a bloca dezvoltarea tehnologică.

Brad Smith, președintele Microsoft, a cerut introducerea unor norme internaționale de siguranță pentru inteligența artificială, susținând că această tehnologie este în prezent mai puțin reglementată decât numeroase produse de consum.

Propunerile sale includ obligația legală a companiilor de a informa persoanele afectate atunci când sistemele lor sunt compromise de agenți de inteligență artificială care acționează necontrolat. Smith a mai pledat pentru stabilirea unor criterii care să determine când un produs de AI trebuie evaluat independent înainte de lansare, relatează BBC.

Poziția sa contrastează cu cea a lui Donald Trump, care susține că industria ar trebui să se reglementeze singură, pentru ca firmele americane să nu piardă teren în fața competitorilor din China.

„În momentul de față, mașina dumneavoastră de spălat este supusă unor reguli de siguranță mai stricte decât inteligența artificială. Fiecare cutie de lapte pe care o vedeți în supermarket trebuie să respecte norme de siguranță și să fie supusă controalelor", a declarat Smith.

Cererile pentru adoptarea unor legi care să reglementeze AI s-au intensificat după ce experți din domeniu au avertizat că tehnologia ar putea reprezenta o amenințare pentru omenire.

Conducătorii unor companii americane importante, precum Anthropic, OpenAI și Google DeepMind, au susținut ideea încetinirii dezvoltării inteligenței artificiale. Trump s-a opus însă unei astfel de abordări.

Într-un interviu acordat podcastului BBC „Big Boss Interview", Smith a descris inteligența artificială drept „un instrument și o armă" și a afirmat că reglementarea sa nu mai poate fi amânată.

„Să începem chiar de astăzi", a spus el.

Smith a afirmat că firmele care dezvoltă AI trebuie să dispună de mecanisme de oprire de urgență, cunoscute în industrie drept „kill-switch-uri", care să permită suspendarea sau încetinirea sistemelor dacă acestea încep să funcționeze în mod necontrolat.

El a cerut, de asemenea, ca firmele să fie obligate prin lege să întocmească rapoarte privind incidentele și să îi informeze pe cei afectați atunci când tehnologia provoacă probleme.

O altă propunere vizează evaluarea noilor sisteme de inteligență artificială de către experți independenți desemnați de autorități.

„Știm deja cum să facem acest lucru în cazul altor produse. Ar trebui să folosim experiența acumulată și să vedem cum o putem aplica inteligenței artificiale", a spus Smith.

În opinia sa, Regatul Unit este într-o poziție favorabilă pentru a impulsiona adoptarea unor reguli internaționale, datorită institutului său specializat în securitatea inteligenței artificiale, înființat în timpul guvernului condus de fostul premier Rishi Sunak.

Instituția, lansată inițial sub numele de AI Safety Institute și redenumită ulterior AI Security Institute, evaluează riscurile asociate sistemelor avansate de inteligență artificială.

„În lumea tehnologiei, dacă îi întrebi pe oameni care este țara lider în această capacitate tehnică, majoritatea celor pe care îi cunosc ar răspunde simplu: Regatul Unit. Britanicii sunt cei mai buni", a declarat Smith.

Poziția lui Smith diferă de cea a lui Donald Trump, care susține că Statele Unite trebuie să accelereze dezvoltarea inteligenței artificiale.

Președintele american a afirmat în repetate rânduri că „cine câștigă în domeniul AI, câștigă totul".

Smith consideră însă că administrația americană ar putea accepta mai ușor reguli elaborate sub conducerea Regatului Unit decât norme promovate de Uniunea Europeană.

„La Washington, oamenii nu privesc Regatul Unit și Londra la fel cum privesc Bruxellesul. Acesta este un avantaj", a spus el.

El a avertizat că riscurile au devenit suficient de serioase pentru a impune acțiuni imediate.

„Când vedem agenți de inteligență artificială care scapă de controlul oamenilor și modele atât de puternice încât pun în pericol securitatea cibernetică a lumii, aș spune că a venit momentul să acționăm.

Să discutăm calm, poate chiar pe un ton moderat, dar ferm, și să începem să aducem oamenii împreună. Sper că noi, ca firmă, putem juca acest rol. Sper că Regatul Unit poate face același lucru ca țară", a declarat președintele Microsoft.

La sfârșitul lunii precedente, Donald Trump a găzduit la Casa Albă conducătorii unor mari companii de tehnologie americane, printre care OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google.

Reprezentanții companiilor au semnat un document descris drept „obligatoriu din punct de vedere moral", prin care s-au angajat să colaboreze cu auditori independenți pentru a verifica dacă sistemele lor de IA funcționează conform scopului declarat și nu accesează sau compromit sisteme tehnice în moduri neprevăzute.

Smith a salutat inițiativa și a afirmat că Microsoft este dispusă să semneze documentul.

„Este un pas bun și necesar, dar nu cred că mai este suficient", a spus el.

Președintele Microsoft a adăugat că principala limită a oricărui sistem de autoreglementare este faptul că firmele responsabile vor respecta regulile, în timp ce cele care nu acționează responsabil rămân o sursă majoră de îngrijorare. „De companiile care nu sunt la fel de responsabile trebuie să ne temem", a conchis Smith.