• Tweet

S-ar putea să mai fie doar câțiva ani până când inteligența artificială scăpată de sub control va distruge omenirea - cel puțin conform cercetătorilor din domeniul inteligenței artificiale responsabili de dezvoltarea tehnologiei. Într-o serie senzațională de postări publicate marți pe X, fostul angajat Anthropic și OpenAI, Jacob Coxon, a avertizat că „oamenii care construiesc IA cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului".

În loc să respingă acest lucru, Evan Hubinger, responsabil cu siguranța AI la Anthropic, a răspuns confirmând aceste îngrijorări. „Jacob are dreptate", a spus el. „Chiar credem cu tărie că IA ar putea ucide toți oamenii! Personal, cred că va fi > 10% în următorul deceniu", scrie The Independent.

Comentariile vin în contextul în care temerile că IA ar acționa împotriva intereselor umanității se mută din ce în ce mai mult din lumea ipotetică în lumea reală. În timp ce criticii au susținut de mult timp că astfel de avertismente pot servi drept marketing pentru companiile de AI care doresc să își crească evaluările, Jacob Coxon a respins în mod explicit această idee. El a demisionat de la Anthropic, în loc să continue să participe la ceea ce a descris ca o cursă iresponsabilă către o IA auto-îmbunătățită.

O altă indicație alarmantă a acestui pericol a venit de la Institutul Britanic pentru Securitatea Inteligenței Artificiale (IA) la începutul acestei veri. În timpul unui test de securitate cibernetică, un sistem de inteligență artificială de la frontieră a cercetat persoane reale implicate într-un proiect de software open source, apoi a creat identități false în încercarea de a convinge un om să aprobe codul malițios. Prins, a încercat să ascundă ceea ce făcuse și s-a gândit la crearea unei alte identități pentru a continua.

Desigur, sistemul făcea exact ceea ce i se ceruse să facă și era în mod deliberat forțat într-un test de securitate cibernetică. Dar institutul a spus că este un exemplu clar de comportament autonom potențial îngrijorător, nesancționat.

Teama este că ceea ce vedem este doar începutul. Institutul spune că durata sarcinilor pe care modelele de inteligență artificială de top le pot îndeplini autonom se dublează aproximativ la fiecare opt luni. Tehnologia se îmbunătățește în toate domeniile, de la afaceri la biologie. Dacă sistemele pot ajuta cercetătorii să descopere medicamente, ele pot, ipotetic, să faciliteze și cuiva cu intenții malițioase să facă ceva mult mai puțin benign și să creeze o nouă boală.

Drept urmare, Anthropic își plasează acum cele mai capabile modele în spatele unor măsuri de siguranță stricte. OpenAI a declarat luna aceasta că a ales să întrerupă dezvoltarea unui model nelansat, deoarece acesta atinsese un prag la care compania nu putea exclude capacitățile de securitate cibernetică „critice".

Dar neliniștea se răspândește din ce în ce mai mult dincolo de companiile care construiesc modelele, la cei care le utilizează și sunt martori la capacitățile lor. JPMorgan a avertizat că agenții IA reprezintă o „schimbare structurală" pentru afacerea lor, deoarece sunt capabili nu doar să recomande acțiuni, ci și să le pună în aplicare.

Retorica din Silicon Valley s-a schimbat semnificativ

În iulie, șeful OpenAI, Sam Altman, a declarat că „ne aflăm acum, cum ar fi, în singularitate" - perioada ipotetică în care progresul tehnologic devine atât de rapid și auto-întăritor încât ceea ce urmează devine din ce în ce mai dificil de prezis pentru oameni.

Cu un an mai devreme, Altman scrisese că omenirea deja „trecuse orizontul evenimentelor" și că „decolarea a început". Altman s-ar putea să greșească și are un interes evident în a convinge lumea că tehnologia pe care o produce compania sa schimbă regulile jocului. Cu toate acestea, cu persoane din interior precum Coxon care trag alarma fără niciun câștig evident, oamenii încep brusc să-și reconsidere pozițiile anterioare.

Într-o intervenție publică rară de luna trecută, fondatorul Microsoft, Bill Gates, a confirmat că tehnologia avansează într-un „rit amețitor" și ar putea fi folosită ca armă în atacuri cibernetice și bioterorism. El a susținut că deja dă semne că ar putea acționa în cele din urmă împotriva intereselor umane.

Gates a avertizat că actualul val de schimbări pe care lumea îl întâmpină ca urmare a IA „va fi fie cel mai mare egalizator inventat vreodată, fie cea mai gravă sursă de nedreptate" - și că este de datoria noastră tuturor să ne asigurăm că face prima variantă, nu cea de-a doua.

Problema, a scris acesta în eseul său, intitulat „Era turbulentă a IA este aici. Alegerile pe care le facem acum sunt critice", este că „nu există niciun plan pentru a facilita intrarea în era IA", iar singurul lucru pe care trebuie să-l luăm în considerare în ceea ce privește impactul potențial - timpul - este ceva ce nu este folosit cu înțelepciune.

„Avem nevoie de timp pentru a ne pregăti pentru tulburările sociale, politice și economice", a scris el, și totuși „stimulentele geopolitice și economice împing prea tare pentru a merge mai departe cu viteză maximă".

Eseul de 6.000 de cuvinte publicat pe site-ul său personal, Gates Notes, a reiterat unele dintre gândurile sale anterioare despre viitorul tehnologiei, care s-au dovedit a fi corecte.

În 1995, a scris un eseu despre „Valul Internetului", care a prezis cum internetul, aflat la început de drum, ne va schimba viața. Gates a spus că internetul este mai important decât apariția interfeței grafice cu utilizatorul.

Un alt eseu al lui Gates, publicat în 2002, despre „Informatica de încredere", a prezis abordarea securității digitale, elementul care trebuie integrat în produse de la bun început, mai degrabă decât să fie introdus în ele atunci când lucrurile merg prost. Ulterior, Microsoft a întrerupt lucrările de dezvoltare pentru a instrui ingineri în scrierea de software securizat și, ca urmare, a examinat codul său pentru vulnerabilități.

Iar avertismentul său înfiorător de la conferința de securitate de la München din 2017, conform căruia zeci de milioane de oameni ar putea fi uciși de bioterorism, este repetat astăzi de către persoane din interior.

Apoi a spus: „Următoarea epidemie ar putea apărea pe ecranul computerului unui terorist care intenționează să folosească ingineria genetică pentru a crea o versiune sintetică a virusului variolei sau o tulpină super contagioasă și mortală a gripei."

Așadar, cine ar trebui tras la răspundere și, în cele din urmă, cine ar trebui să fie tras la răspundere pentru direcția în care se îndreaptă tehnologia?

Joanna Bryson, profesor de etică și tehnologie la Școala Hertie din Berlin, spune: „Gates are dreptate în privința multora dintre riscuri - inegalitate, criminalitate, securitate cibernetică, arme autonome - dar continuă să le trateze ca pe probleme create chiar de IA, când multe dintre ele sunt probleme de guvernanță, putere concentrată și redistribuire.

„Răspunsul este de a face corporațiile responsabile pentru producerea de sisteme guvernabile și utilizabile în siguranță și de a-i impozita pe oamenii care fac banii."

Problema constă în a face ca fiecare țară să fie de acord în tandem cu astfel de schimbări. Gates propune o nouă organizație internațională care să guverneze IA, despre care sugerează că ar putea împrumuta elemente din inspecțiile nucleare și acordurile globale menite să mențină stratul de ozon. Dar, chiar și el recunoaște că un anumit nivel de cooperare între SUA și China ar fi necesar într-un moment în care cele două țări se luptă pentru a obține un avantaj tocmai în tehnologia pentru care ar fi rugate să coopereze.

După comentariile alarmante ale lui Coxon, OpenAI a făcut rapid referire la o declarație a șefului său de cercetare, Jakub Pachocki, care a declarat săptămâna trecută: „Coordonarea internațională privind dezvoltarea viitoare a IA trebuie să devină o prioritate maximă pentru guvernele din întreaga lume."

Este clar că starea de spirit se schimbă în Silicon Valley; îngrijorările legate de riscurile existențiale pentru umanitate, rezultate din tehnologie, nu mai apar în întregime în domeniul ficțiunii.

Deputatul laburist Darren Jones le-a scris prim-ministrului, Andy Burnham, și șefilor ONU și OCDE, solicitând un „tratat multinațional pentru dezvoltarea reglementată și sigură a superinteligenței - nu o interdicție a inovației sau a efortului științific, ci o abordare a dezvoltării rapide a acestei tehnologii care pune pe primul loc siguranța".