Etapele până când computerele ar putea prelua controlul asupra omenirii - Cât de departe ar putea ajunge dezvoltarea AGI
Postat la: 26.12.2023 | Scris de: ZIUA NEWS
0
Ideea de „Inteligență Artificială Generală" (AGI), dar și de „Singularitate tehnologică", momentul când mașinile ar putea deveni conștiente și ar putea depăși net inteligența umană, nasc scenarii fie alarmiste, fie mai mult de tip SF.
Sam Altman, șeful OpenAI, spunea cu doar câteva zile înainte de izbucnirea faimosului scandal de la companie, că marele țel este construirea unei „superinteligențe". AGI (Inteligență Artificială Generală) se referă la un nivel de dezvoltare în domeniul inteligenței artificiale în care un sistem este capabil să desfășoare orice sarcină intelectuală pe care o poate realiza un om.
Zece zile mai târziu, Reuters scria că, înainte ca Sam Altman să fie, timp de patru zile, înlăturat de la șefia OpenAI, câțiva cercetători din companie au trimis board-ului de conducere o scrisoare despre o descoperire capitală în AI care ar putea fi un „pericol pentru umanitate",
Proiectul descris se numește Q*, iar sursele citate de Reuters spuneau că acest nou model a putut rezolva probleme complexe de matematică pe care modele anterioare - și foarte sofisticate - dezvoltate de OpenAI nu le-a putut rezolva. Erau cu siguranță exagerări, iar așa-zisul „pericol pentru umanitate" nu este aproape de noi. Însă merită clar discutat subiectul, fiindcă va reveni des în anii următori.
2023 a fost în tehnologie anul discuțiilor interminabile despre inteligența artificială și despre lucrurile bune, dar și rele, pe care ni le-ar putea aduce aceste avansuri rapide din domeniu. Au avertizat și cele mai luminate minți ale omenirii că am putea-o lua pe căi greșite, în timp alți oameni super-intelgenți au spus că vom avea foarte multe de câștigat de pe urma acestor descoperiri ce ne vor simplifica viața.
Și mai interesant a fost faptul că, inclusiv șefi de companii ce lucrează la dezvoltarea unor produse AI avansate, au cerut ca autoritățile să reglementeze domeniul, pentru a fi evitate derapajele.
Foarte mulți au spus că dezvoltarea AI trebuie să se facă respectând anumite reguli, iar Uniunea Europeană a și venit cu un set concret de propuneri de reglementare. Nu este perfect, dar este un început.
Singularitatea - un moment la care visează fanii romanelor SF
Singularitatea tehnologică este un concept ipotetic care se referă la un punct în timp în viitor când Inteligența Artificială va deveni atât de avansată, încât va depăși inteligența umană. Acest lucru ar putea avea un impact profund asupra societății umane, deoarece va duce la o schimbare rapidă și fundamentală a modului în care trăim și lucrăm.
Ideea centrală este că, la un anumit punct, inteligența artificială sau alte tehnologii pot deveni atât de avansate, încât vor depăși înțelegerea sau capacitatea de control a oamenilor. Aici este și marea îngrijorare: că omenirea va pierde controlul în fața acestei Singularități.
Acest concept este asociat cu ideea că evenimentele ulterioare devin imprevizibile, deoarece o inteligență superioară ar putea influența rapid și semnificativ direcția evoluției tehnologice și a societății, fără ca noi, oamenii, să avem cum ne opune.
Dar NU se știe dacă omenirea va ajunge atât de departe și dacă va exista vreodată o „Singularitate AI". Unii experți spun că ar putea apărea peste câteva zeci de ani, alții că abia peste 200-300 de ani, iar alții, că niciodată.
Despre cum s-ar putea ajunge la o singularitate AI au scris mai mult autorii de romane SF, fiindcă trebuie multă imaginație. O variantă ar fi să ajungem să putem adăuga la inteligența noastră umană puterea de procesare a unui supercomputer, iar în acest fel am deveni versiuni „supercharged" ale noi înșine.
O altă variantă, tot foarte SF, ar fi ca supercomputerele să învețe să „gândească" și să se alieze pentru a forma un „creier global".
Acea super-mașină ar trebui să ajungă să aibă conștiință și să se poată îmbunătăți pe sine într-un mod super-rapid și total autonom de intervențiile oamenilor. Ce le-ar lua oamenilor secole, o super-mașină ar putea reuși la nivel de dezvoltare în ani sau luni. Ar fi o schimbare cum nu s-a mai petrecut de la începuturile omenirii pe Pământ.
Însă o problemă este că nu s-a căzut de acord asupra unei definiție a conștiinței și nici nu o putem cuantifica. Însă o super-inteligență ar trebui să înțeleagă lumea din jurul ei, să aibă conștiință de sine și să poată planifica viitorul, stabilind diferite țeluri și construind planuri clare pentru a le atinge.
Ar trebui ca o super-inteligență artificială să facă previziuni complexe ale viitorului îndepărtat și să ia în calcul aspecte care nouă, oamenilor, ne scapă, fiindcă acea mașinărie va avea la dispoziție mai multe date. Ar trebui ca o mașinărie să își poată stabili propriile obiective, iar aici este marea întrebare: vor fi aceste obiective prietenoase cu oamenii sau oamenii vor fi văzuți ca ceva ce trebui înlăturat?
Dacă într-o zi roboții vor deveni mai inteligenți decât oamenii, ei ne-ar putea da la o parte, ca pe niște relicve ale evoluției. Scenariul negativist ar fi că acești roboți se vor autoreplica, ar deveni tot mai inteligenți de la generație la generație și această nebunie va duce la secătuirea planetei de resursele ei. Scenarii și mai nebunești spun că „roboții" superinteligenți ar putea apoi să se năpustească în spațiul cosmic pentru a-și continua căutarea de inteligență, până când vor ajunge la alte planete, stele și galaxii, cu scopul de a le converti în computere. Unii cred că ar putea consuma întregul univers. Scenariile sunt enumerate de Michio Kaku, celebru autor cunoscut și pentru aparițiile în numeroase documentare despre știință.
Dar întrucât planetele, stelele și galaxiile se află la distanțe incredibil de mari, s-ar putea ca lacomul computer să modifice legile fizicii, în așa fel încât să se poată deplasa mai rapide decât lumina li, cu apetitul lui enorm, să consume pe de-a-ntregul sisteme stelare și galaxii.
Totuși, scenariul cel mai probabil este o AI „prietenoasă", fiindcă putem bănui că oamenii de știință se vor asigura că roboții nu vor deveni periculoși. Vor avea probabil un „kill switch", un mecanism de siguranță care poate fi acționat de om în orice moment, mai ales dacă „robotul" manifestă semnele unui comportament turbulent. Ar trebui să fie închis rapid, cu o simplă comandă.
Când s-a născut conceptul de singularitate „tech"
Conceptul de „singularitate" provine din astrofizică și se referă la un punct de gravitație infinită, din care nimic nu poate evada, conceptul fiind făcut celebru de teoriile despre negre și de documentarele ce descriu aceste zone extreme din Univers.
În 1958, doi matematicieni menționau, pentru prima oară, ideea unei „singularități AI", adică punctul în care roboții vor fi mai inteligenți decât oamenii și vor fi capabili și să facă auto-replicare. Sunt filme cu armate de roboți autoreplicanți ce creează roboți tot mai buni, de la generație la generație. Cele mai pesimiste scenarii spun că acei roboți ultra-inteligenți vor fi agresivi și, în dorința de a produce versiuni și mai performante, vor devora resursele planetei și apoi vor trece să în spațiu.
Unul dintre cei doi matematicieni era John von Neumann, cel care a avut o contribuție importantă la dezvoltarea computerelor electronice. El a fost printre primii care s-au ocupat de determinarea numărului minim de condiții necesare pentru ca o mașină să poată crea o copie a ei înseși.
Când va apărea o singularitate? Cei mai optimiști experți au estimat că va fi în 20 de ani, iar cei mai pesimiști, în 1.000 de ani.
La 1993, un cercetător pe nume Verner Vinge spunea: „În decurs de 30 de ani vom avea mijloacele tehnologice să creăm o inteligență supraumană. La scurt timp după aceea, epoca oamenilor se va sfârși. Aș fi surprins dacă acest eveniment se va produce înainte de 2005 sau după 2030".
Pe de altă parte, Douglas Hofstadter, care a scris mai multe cărți de succes, spunea așa: Aș fi foarte surprins dacă ceva care să aducă măcar de departe cu această situație s-ar produce în următorii 100, până la 200 de ani".
Dar mereu această idee de a crea o inteligență supra-umană a fost la 30-40 de ani distanță de momentul prognozei și nu s-a concretizat, fiindcă multe lucruri trebuie să se potrivească pentru ca o astfel de creație să devină realitate.
În anii 80 sau 90 ai secolului trecut au fost multe predicții care spuneau că prin 2020 sau 2030 computerele vor fi așa de avansate, încât ar ajunge capabile să realizeze copii ale lor însele. Nu s-a ajuns acolo, însă omenirea a izbutit alte progrese tehnologice ce erau greu de anticipat acum peste patru decenii.
Singularitatea este în general considerată a fi un eveniment negativ, deoarece ar putea duce la o pierdere a controlului uman asupra tehnologiei și la o schimbare rapidă și fundamentală a societății. În cel mai rău caz „roboții" ne-ar putea distruge cu totul, cum și-au imaginat scenariștii din diverse filme faimoase.
AGI - Artificial general intelligence
Nu știm dacă se va dezvolta vreodată o „singularitate AI", dar o etapă intermediară ar putea fi dezvoltarea a ceea ce se numește AGI.
În primul rând trebuie spus că AGI este o formă foarte avansată de AI, mult peste așa numitele sisteme „narrow AI" pe care le putem folosi în prezent și care sunt foarte bune la un singur lucru, nu la mai multe, iar nivelul lor cognitiv este net inferior celui uman.
La AGI lucrurile stau cu totul altfel.
Artificial General Intelligence (AGI), cunoscută și sub denumirea de inteligență artificială generală, se referă la un tip de AI care ar avea capacitatea de a înțelege, învăța și aplica cunoștințe într-un mod similar cu o minte umană.
Diferența cheie între AGI și alte forme net inferioare de inteligență artificială constă în capacitatea AGI de a se adapta și de a rezolva o gamă largă de sarcini intelectuale, fără a fi programată specific pentru fiecare sarcină în parte.
În esență, AGI ar putea să îndeplinească orice sarcină cognitivă pe care o poate realiza un om. Acest nivel de inteligență artificială ar implica o conștiință de sine, capacitatea de a înțelege contextul, de a învăța din experiență și de a aplica cunoștințele într-un mod flexibil și creativ.
AGI va fi la „ani lumină" de ChatGPT și Google Bard, care sunt forme specializate, ce abordează sarcini specifice precum recunoașterea vocală, traducerea limbajului natural sau jocurile de strategie. AGI va fi mult mult mai sofisticată.
O inteligență artificială generală ar trebui să fie capabilă să se descurce cu o gamă extrem de variată de sarcini și contexte, într-un mod asemănător cu o minte umană. Este complicat să ajungi așa de departe, întrucât majoritatea sistemelor de inteligență artificială devenite în prezent „vedete" sunt specializate într-o anumită sarcină sau domeniu.
O AGI ar trebui să poată înțelege contextul în care acționează, să învețe din experiență și să se adapteze la schimbările din mediu. Cuvântul cheie aici este să ÎNȚELEAGĂ.
Foarte îngrijorătoare este ideea de autonomie: ce faci dacă o AGI începe să acționeze pe cont propriu și, într-un fel sau altul, va face rău oamenilor? Așadar, dacă AGI devine capabilă să se auto-îmbunătățească și să ia decizii în mod autonom, există riscul pierderii controlului uman asupra sistemului.
AGI este o tehnologie, în timp ce Singularitatea este un eveniment. AGI este un concept care se referă la o mașină ce poate gândi și acționa precum un om. Singularitatea este un eveniment care se referă la momentul în care o mașină devine mai inteligentă decât un om.
Singularitatea poate sau nu să fie legată de dezvoltarea AGI, dar AGI este adesea considerată una dintre tehnologiile cheie care ar putea contribui la un astfel de eveniment.
AGI este posibilă, în timp ce Singularitatea este ipotetică. Nu există nicio garanție că Singularitatea va fi vreodată realizată. Singularitatea este un concept care este încă în curs de cercetare și discuție.
Unii cercetători și lideri din domeniul inteligenței artificiale sunt optimiști și consideră că AGI ar putea fi realizată în următorul deceniu, în timp ce alții sunt mai rezervați și cred că o super-inteligență nu va fi dezvoltată decât peste câteva sute de ani.
De ce este așa de greu din punct de vedere tehnic să fie dezvoltată o formă de Artificial General Intelligence?
Ar fi mai multe motive, iar unul ține de faptul că nu înțelegem pe deplin cum funcționează inteligența umană, așa că este dificilă proiectarea unui sistem AI care să o poată „imita".
Apoi, deși modelele de învățare automată sunt un instrument important în dezvoltarea AGI, ele încă sunt limitate în ceea ce pot învăța și face.
O altă dificultate ține de crearea de algoritmi care pot rezolva probleme complexe. AGI trebuie să poată rezolva o gamă largă de probleme ultra-complicate, iar dezvoltarea de algoritmi pe măsură este dificilă., cum ar fi planificarea, luarea deciziilor și rezolvarea problemelor. Crearea de algoritmi care pot rezolva aceste probleme este dificilă.
Un alt aspect, extrem de important, este că sunt uriașe costurile de computing pentru a dezvolta sisteme puternice de AI. Este nevoie de multe miliarde de dolari și de investitori care dacă i-ar da trebuie să creadă că au șanse de a-i recupera.
Estimarea momentului exact în care vom dezvolta o Artificial General Intelligence (AGI) este foarte dificilă din cauza numeroaselor incertitudini legate de progresele tehnologice, finanțare, descoperiri științifice și alte variabile.
DIN ACEEASI CATEGORIE...
ULTIMA ORA
-
Descoperirea terifiantă făcută de arheologi în casa lui Hermann Goring, prietenul lui Adolf Hitler: „Am fost complet șocați"
Schelete înfiorătoare, cu membre lipsă, au fost găsite în „Bârlogul Lupului", unde a locuit cândva un apropiat de top al lui Hitler, relatează The Sun.
-
Americanii și saudiții se apropie de un pact istoric care ar putea remodela Orientul Mijlociu. Care va fi mișcarea Israelului
SUA și Arabia Saudită se apropie de un pact istoric care ar oferi regatului garanții de securitate și ar stabili o posibilă cale către legăturile diplomatice cu Israelul, au dezvăluit persoane familiare cu problema pentru Bloomberg.
-
Cel mai avansat portavion al Chinei se apropie de lansare. Cele două avantaje esențiale pe care le au navele SUA în fața Fujian
Cel mai nou, mai mare și mai avansat portavion al Chinei, Fujian, a făcut un salt serios pentru a se alătura celei mai mari flote navale din lume, miercuri, când a plecat din Shanghai pentru primele sale probe pe mare.
-
O nouă anomalie meteo la Hong Kong - a fost lovit de aproape 10.000 de fulgere. Peste jumatate din ele intr-o singură oră
Hong Kong a fost lovit de aproape 10.000 de fulgere în noaptea de marți spre miercuri, potrivit observatorului meteorologic al orașului, scrie Le Figaro.
-
Cancanuri cu averile candidatilor la alegerile europarlamentare: vile in strainatate, depozite in criptomonede, soțul plătit ca secretară, salariu imens la profit zero
Are aproape 45.000 de euro în conturi și criptomonede evaluate la circa 31.000 de dolari. Realizator al unor emisiuni pe propriile platforme online, Lazarus a menționat venituri din "publicitate online" de 51.199 de dolari de la Facebook Ireland și 16.530 euro de la Youtube.
-
Doi polițiști de frontieră au fost înjunghiați în Timiș, încercând să prindă migranți. Ministrul de Interne vrea să primim și mai mulți
Doi polițiști de frontieră din cadrul Serviciului Teritorial al Poliției de Frontieră Timiș au fost înjunghiați în timp ce încercau să prindă mai mulți migranți și două călauze, informează Televiziunea Română.
-
Arma americană care ar putea face Crimeea „inutilă din punct de vedere militar"
Rachetele ATACMS cu rază lungă de acțiune furnizate de SUA Ucrainei au potențialul de a face Crimeea "inutilă din punct de vedere militar" pentru Rusia, potrivit unui analist militar.
-
Donald Trump, interviu care dă fiori: "Preşedinţia imperială care ar remodela America şi rolul său în lume!"
Revista Time prezintă într-un material amplu intitulat "If he wins" ("Dacă câştigă") ambiţiile lui Donald Trump şi felul în care acesta vrea să reia controlul la Casa Albă în cazul unei victorii în alegerile prezidenţiale de la 5 noiembrie, un program care dă fiori.
-
Secretul longevității lui Ion Iliescu, dezvăluit de un nutriționist. Ce mănâncă fostul președinte la 94 de ani
Ion Iliescu, fostul președinte al României, urmează o dietă strictă, iar acesta ar fi secretul longevității sale. Fostul lider al țării a ajuns la vârsta de 94 de ani. Un nutriționist a dezvăluit care este regimul pe care acesta îl urmează cu strictețe.
DIN CATEGORIE
- TOP CITITE
- TOP COMENTATE
- 1.Un psiholog a lucrat 20 de ani într-un mare spital din România cu o diplomă cumpărată dintr-un bar
- 2.Descendentul primului presedinte al Rusiei Comuniste explica planurile secrete ale celor 13 mari familii care conduc lumea spre Apocalipsă
- 3.O misterioasă boală legată de Covid face ravagii în întreaga lume. Medicii nu știu cum să oprească acest val uriaș de infectări care baga oamenii la terapie intensivă
- 4.Planul Soros respectă și îmbunătățește Planul Kalergi: cele 6 puncte principale dupa care se va modela viitorul Europei după Europarlamentare
- 5.Supravegeherea populației e conform planului secret. Rodeanu: PNL îi face cadou lui Predoiu o "Mică Securitate"!
- 6.Israelul isi face planurile pentru Gaza depopulata de palestinieni - O megaregiune futuristă între Eurasia și Africa pe placul Forumului de la Davos
- 7.Prefectul Cosa Nostra: mafia din Techirghiol a vândut sub patronajul primarului Iulian Soceanu pana și terenul de sub statia de autobuz!
- 8.Guvernul Ciolacu exportă de fapt cereale ucrainene. Fermierii acuză că sunt trecute în acte ca exporturi agricole românești
- 9.Masonii au angajat o firmă de lobby pentru "promovarea integrării României în energii regenerabile" și intrarea in Schengen
- 10.Documente secrete ale Rusiei dezvăluite de Washington Post: Strategia lui Putin asupra Statelor Unite pentru O Nouă Ordine Mondială
comentarii
Adauga un comentariuAdauga comentariu