Descoperirea ce ar putea ameninţa omenirea: Culisele demiterii directorului OpenAI
Postat la: 23.11.2023 | Scris de: ZIUA NEWS
0
Înainte de cele patru zile de exilare a directorului general al OpenAI, Sam Altman, mai mulţi cercetători din cadrul personalului startup-ului au scris o scrisoare către Consiliul de Administraţie în care avertizau asupra unei descoperiri puternice în materie de inteligenţă artificială despre care au spus că ar putea ameninţa omenirea.
Scrisoarea şi algoritmul de inteligenţă artificială au fost evoluţii cheie înainte de înlăturarea lui Altman de către Consiliul de Administraţie, au spus cele două surse.
Scrisoarea a fost un factor dintr-o listă mai lungă de nemulţumiri ale Consiliului de Administraţie care au dus la concedierea lui Altman, considerat copilul teribil al inteligenţiei artificiale, printre care se numără preocupări legate de comercializarea progreselor înainte de a înţelege consecinţele.
Înainte de revenirea sa triumfală, care s-a întâmplat marţi seara, peste 700 de angajaţi au ameninţat că vor demisiona şi se vor alătura Microsoft - susţinătorul lui Altman - în semn de solidaritate cu liderul lor concediat.
După ce a fost contactat de Reuters, OpenAI, care a refuzat să comenteze, a recunoscut într-un mesaj intern adresat personalului un proiect numit Q* şi o scrisoare adresată Consiliului înainte de evenimentele din weekend, a declarat una dintre persoane. Un purtător de cuvânt al OpenAI a declarat că mesajul, trimis de Mira Murati, un director cu vechime, a alertat personalul cu privire la anumite articole din presă, fără a comenta acurateţea acestora.
Unele persoane de la OpenAI cred că Q* (pronunţat Q-Star) ar putea fi o descoperire în căutarea de către startup a ceea ce este cunoscut sub numele de inteligenţă artificială generală (AGI), a declarat pentru Reuters una dintre surse. OpenAI defineşte AGI ca fiind sisteme autonome ce depăşesc oamenii în majoritatea sarcinilor valoroase din punct de vedere economic.
Având în vedere resursele vaste de calcul, noul model a fost capabil să rezolve anumite probleme matematice, a declarat sub rezerva anonimatului sursa Reuters. Cu toate că efectua doar calcule matematice la nivelul elevilor de şcoală primară, faptul că a reuşit astfel de teste i-a făcut pe cercetători să fie foarte optimişti cu privire la viitorul succes al Q*, a mai spus sursa.
Cercetătorii consideră că matematica este o frontieră a dezvoltării inteligenţei artificiale generative. În prezent, inteligenţa artificială generativă este bună la scriere şi la traducerea limbilor străine prin prezicerea statistică a următorului cuvânt, iar răspunsurile la aceeaşi întrebare pot varia foarte mult. Dar cucerirea abilităţii de a face matematică - unde există un singur răspuns corect - presupune că IA ar avea capacităţi mai mari de raţionament, asemănătoare cu inteligenţa umană. Acest lucru ar putea fi aplicat, de exemplu, la cercetări ştiinţifice noi, consideră cercetătorii din domeniul IA.
Spre deosebire de un calculator care poate rezolva un număr limitat de operaţii, AGI poate generaliza, învăţa şi înţelege.
În scrisoarea lor către Consiliu, cercetătorii au semnalat probele de inteligenţă artificială şi potenţialul pericol, au declarat sursele, fără a preciza care sunt îngrijorările exacte legate de siguranţă semnalate în scrisoare. Există de mult timp discuţii în rândul informaticienilor cu privire la pericolul reprezentat de maşinile foarte inteligente, de exemplu dacă acestea ar putea decide că distrugerea umanităţii este în interesul lor.
Semnatarii scrisorii au semnalat, de asemenea, activitatea unei echipe de "cercetători în domeniul inteligenţei artificiale", a cărei existenţă a fost confirmată de mai multe surse. Grupul, format prin combinarea echipelor anterioare de la "Code Gen" şi "Math Gen", explora modul de optimizare a modelelor de inteligenţă artificială existente pentru a le îmbunătăţi raţionamentul şi, în cele din urmă, pentru a efectua lucrări ştiinţifice, a declarat una dintre persoane.
Altman a condus eforturile pentru a face din ChatGPT una dintre aplicaţiile software cu cea mai rapidă creştere din istorie şi a atras investiţiile necesare - şi resursele de calcul - de la Microsoft, pentru a se apropia de AGI. Pe lângă faptul că a anunţat o serie de noi instrumente în cadrul unei demonstraţii în această lună, Altman a anunţat săptămâna trecută, în cadrul summitului APEC din San Francisco, că, în opinia sa, se întrezăresc progrese majore. "De patru ori în istoria OpenAI, cea mai recentă dată chiar în ultimele două săptămâni, am reuşit să fiu prezent în sală atunci când dăm la o parte vălul ignoranţei şi împingem frontiera descoperirii, iar a face acest lucru este o onoare profesională de neuitat", a declarat el la summitul APEC. O zi mai târziu, Consiliul de Administraţie l-a concediat pe Altman.
DIN ACEEASI CATEGORIE...
ULTIMA ORA
-
Câteva fire din implantul Neuralink, al lui Elon Musk, s-au desprins de creierul pacientului în primele săptămâni
Câțiva conectori din implantul cerebral dezvoltat de Neuralink, startup-ul lui Elon Musk, s-au desprins de creierul pacientului Noland Arbaugh, în primele săptămâni după operație.
-
Politiciană germană, condamnată pentru că a publicat statisticile care arată legătura dintre migranții afgani și numărul cazurilor de viol în grup
Politiciana Marie-Thérèse Kaiser, membră a partidului Alternativa pentru Germania (AfD), a fost condamnată pentru că a publicat statistici privind violurile în grup ca răspuns la vestea că migranții afgani vor fi mutați în districtul său, scrie Rmx News.
-
Marea Britanie va vinde în continuare armament Israelului: "Există o diferenţă fundamentală între situaţia din SUA şi Regatul Unit"
Regatul Unit se află într-o situaţie diferită de cea a Statelor Unite în ceea ce priveşte posibilitatea încetării vânzărilor de arme către Israel, a declarat joi, 9 mai, ministrul britanic de externe David Cameron, relatează AFP.
-
Un scandal global: Marea Britanie anunță că refuză să semneze Tratatul privind Pandemiile al OMS
Marea Britanie refuză să semneze tratatul Organizației Mondiale a Sănătății privind pandemiile, în timp ce insistă că Regatul Unit ar trebui să renunțe la o cincime din vaccinurile sale, potrivit The Telegraph.
-
Tucker Carlson a facut un interviu cu fosta asistentă a lui Biden care a fugit in Rusia VIDEO
Jurnalistul american de televiziune Tucker Carlson a intervievat-o pe fosta asistentă a lui Joe Biden, Tara Reid, care s-a mutat în Rusia, și ea a vorbit despre teama ei de persecuție, dar a promis că va continua lupta pentru a-l aduce în fața justiției pe fostul ei șef.
-
Microsoft a creat un model de Inteligență Artificială pentru spioni
Microsoft a dezvoltat un model secret de inteligență artificială exclusiv pentru agențiile de spionaj din SUA. Modelul bazat pe GPT-4 este „aer-gapped", ceea ce înseamnă că nu este conectat la internet. Face parte dintr-un efort mai amplu al agențiilor de informații de a utiliza AI pentru o manipulare mai eficientă a datelor.
-
Ani de închisoare și lovituri de bici pentru un cunoscut regizor. Sentința, chiar înaintea de premiera filmului său la Cannes
Cunoscutul regizor iranian Mohammad Rasoulof, laureat cu Ursul de Aur la Berlinala din 2020, ar fi fost condamnat la mai mulţi ani de închisoare și lovituri de bici, cu doar câteva zile înainte ca noul său film să aibă premiera la Festivalul de film de la Cannes.
-
Peste un sfert dintre români cred că aderarea la UE a adus dezavantaje României. Aproape jumătate cred că europarlamentarii sunt simpli sinecuristi
Aproximativ 50% dintre români cred că aderarea la UE a adus mai degrabă avantaje României, procentul lor fiind în creştere faţă de acum 10 ani, în timp ce 21,9% cred că aderarea la UE nu a adus nici avantaje, nici dezavantaje, iar 27,7% consideră că aderarea a adus dezavantaje, procentul fiind mai mare decât în urmă cu 10 ani, relevă un sondaj realizat de INSCOP.
-
Când a avut loc primul colaps al campului magnetic terestru. Pe Pământ au apărut creaturi ciudate și complexe
Câmpul magnetic al Pământului joacă un rol esențial în asigurarea habitabilității planetei noastre. Bula protectoare de deasupra atmosferei protejează planeta de radiațiile solare, de vânturi, de razele cosmice și de variațiile bruște de temperatură.
DIN CATEGORIE
- TOP CITITE
- TOP COMENTATE
- 1.O invenție revoluționară. Levitația a devenit posibilă
- 2.Misiune indeplinita: Anca Dragu a predat Republica Moldova la cheie pentru companiile străine care sunt deja în România
- 3.Suveica mafiei din agricultură: importăm porumb din Ungaria, mere din Polonia şi conserve de roşii din Turcia și dam totul la export
- 4.Yuval Noah Harari: "Când va veni potopul elitele vor construi o arcă și îi vor lăsa pe ceilalți să se înece!"
- 5. Poti sa pierzi tot prin Escrocheria "Mă auziți acum?" Motivul pentru care să nu răspunzi cu "Da"
- 6.Sute de mii de japonezi se revoltă împotriva "Tiranicului Tratat privind pandemiile al OMS"!
- 7.Părintele Pimen Vlad face dezvăluiri cutremurătoare: De unde vine, de fapt, Lumina Sfântă de la Ierusalim!
- 8.Se pregătește pandemia de gripă aviara cu transmitere la om ca sa se puna in aplicare tratatul OMS
- 9.Dorel Vișan, Laura și Ciprian Mega, pe covorul roșu la Moscova! Filmul "21 de rubini" selectat de către Nikita Mihalkov pentru "Oscarul BRICS".
- 10.Amenințare colosală pentru omenire: sfârșitul vieții de pe Pământ ar putea veni din Antarctica
comentarii
Adauga un comentariuAdauga comentariu