Halucinațiile ChatGPT - OpenAI dorește să îl facă disponibil pe scară largă pentru adolescenți și copii și pentru educație

Postat la: 01.02.2024 | Scris de: ZIUA NEWS

Halucinațiile ChatGPT - OpenAI dorește să îl facă disponibil pe scară largă pentru adolescenți și copii și pentru educație

Institutul american de cercetare a inteligenței artificiale OpenAI a făcut obiectul unei analize amănunțite în ceea ce privește manipularea datelor și teama că inteligența artificială ar putea dăuna societății.

OpenAI colaborează cu o organizație pentru siguranța copiilor pentru a crea orientări privind inteligența artificială (AI) și materiale educaționale pentru adolescenți și familii. Analiza survine în contextul în care compania din spatele ChatGPT se confruntă cu un control asupra manipulării datelor și cu teama că AI ar putea dăuna societății.

Colaborarea cu organizația nonprofit Common Sense Media, care evaluează dacă mass-media și tehnologia sunt adecvate pentru copii, a fost anunțată luni, în cadrul unui eveniment organizat la San Francisco, în Statele Unite. "Vrem să ne dăm seama cum trebuie să facem ca acest instrument să fie sigur și responsabil și să fie disponibil pe scară largă pentru adolescenți și pentru persoanele care îl vor folosi ca parte a experienței lor educaționale", a declarat Sam Altman, directorul general al OpenAI, în fața audienței.

Aplicația ChatGPT a primit reacții negative din cauza faptului că nu protejează minorii, deoarece nu există nicio modalitate de a verifica vârsta unui utilizator. De asemenea, se află sub control, deoarece instrumentele sale pot provoca halucinații, în care sistemele de inteligență artificială inventează lucruri sau sunt părtinitoare din cauza datelor folosite pentru a antrena instrumentele.

Cu toate acestea, Sam Altman a respins ideea că AI este rea pentru copii și că instrumentele de AI ar trebui să fie ținute departe de școli. "Oamenii sunt utilizatori de instrumente și ar fi bine să-i învățăm pe oameni să folosească instrumentele care vor fi disponibile în lume", a spus el și a adăugat că "a nu-i învăța pe oameni să le folosească ar fi o greșeală". Common Sense Media a încercat să dezvolte un sistem de evaluare a AI pentru părinți, copii și educatori.

Unii academicieni și-au exprimat îngrijorarea cu privire la modul în care chatbot-urile AI ar putea fi folosite pentru a scrie eseuri. Dar copiii și minorii folosesc, de asemenea, ChatGPT pentru a-i ajuta cu probleme personale. Potrivit unui sondaj realizat pentru ONG-ul Centre for Democracy and Technology, 29% dintre copiii și adolescenții din SUA au folosit ChatGPT pentru a primi ajutor pentru probleme de anxietate sau de sănătate mintală, 22% pentru probleme cu prietenii și 16% pentru conflicte familiale.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

Halucinațiile ChatGPT - OpenAI dorește să îl facă disponibil pe scară largă pentru adolescenți și copii și pentru educație

Postat la: 01.02.2024 | Scris de: ZIUA NEWS

0

Institutul american de cercetare a inteligenței artificiale OpenAI a făcut obiectul unei analize amănunțite în ceea ce privește manipularea datelor și teama că inteligența artificială ar putea dăuna societății.

OpenAI colaborează cu o organizație pentru siguranța copiilor pentru a crea orientări privind inteligența artificială (AI) și materiale educaționale pentru adolescenți și familii. Analiza survine în contextul în care compania din spatele ChatGPT se confruntă cu un control asupra manipulării datelor și cu teama că AI ar putea dăuna societății.

Colaborarea cu organizația nonprofit Common Sense Media, care evaluează dacă mass-media și tehnologia sunt adecvate pentru copii, a fost anunțată luni, în cadrul unui eveniment organizat la San Francisco, în Statele Unite. "Vrem să ne dăm seama cum trebuie să facem ca acest instrument să fie sigur și responsabil și să fie disponibil pe scară largă pentru adolescenți și pentru persoanele care îl vor folosi ca parte a experienței lor educaționale", a declarat Sam Altman, directorul general al OpenAI, în fața audienței.

Aplicația ChatGPT a primit reacții negative din cauza faptului că nu protejează minorii, deoarece nu există nicio modalitate de a verifica vârsta unui utilizator. De asemenea, se află sub control, deoarece instrumentele sale pot provoca halucinații, în care sistemele de inteligență artificială inventează lucruri sau sunt părtinitoare din cauza datelor folosite pentru a antrena instrumentele.

Cu toate acestea, Sam Altman a respins ideea că AI este rea pentru copii și că instrumentele de AI ar trebui să fie ținute departe de școli. "Oamenii sunt utilizatori de instrumente și ar fi bine să-i învățăm pe oameni să folosească instrumentele care vor fi disponibile în lume", a spus el și a adăugat că "a nu-i învăța pe oameni să le folosească ar fi o greșeală". Common Sense Media a încercat să dezvolte un sistem de evaluare a AI pentru părinți, copii și educatori.

Unii academicieni și-au exprimat îngrijorarea cu privire la modul în care chatbot-urile AI ar putea fi folosite pentru a scrie eseuri. Dar copiii și minorii folosesc, de asemenea, ChatGPT pentru a-i ajuta cu probleme personale. Potrivit unui sondaj realizat pentru ONG-ul Centre for Democracy and Technology, 29% dintre copiii și adolescenții din SUA au folosit ChatGPT pentru a primi ajutor pentru probleme de anxietate sau de sănătate mintală, 22% pentru probleme cu prietenii și 16% pentru conflicte familiale.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE