Inteligenta Artificială a decis sa ucidă operatorul uman in cazul unei simulari cu dronă ca sa-si indeplinească misiunea

Postat la: 02.06.2023 |

Grupurile militare sunt doar câteva dintre numeroasele organizații care cercetează inteligența artificială, dar o simulare uimitoare a Forțelor Aeriene ale Statelor Unite a constatat că inteligența artificială s-a răzvrătit împotriva operatorului său într-un atac fatal pentru a-și îndeplini misiunea.

Inteligența artificială continuă să evolueze și să aibă un impact asupra fiecărui sector de activitate, iar aceasta a fost un subiect de conversație popular în timpul Summit-ului privind capacitățile aeriene și spațiale de luptă viitoare, desfășurat la sediul Royal Aeronautical Society (RAS) din Londra, pe 23 și 24 mai. Potrivit unui raport al RAS, au abundat prezentările care au discutat despre utilizarea inteligenței artificiale în domeniul apărării.

Inteligența artificială este deja răspândită în armata americană, cum ar fi utilizarea dronelor care pot recunoaște fețele țintelor, și reprezintă o oportunitate atractivă de a îndeplini eficient misiunile fără a risca viața trupelor. Cu toate acestea, în timpul conferinței, un colonel al Forțelor Aeriene ale Statelor Unite (USAF) a arătat lipsa de fiabilitate a inteligenței artificiale într-o simulare în care o dronă cu AI s-a revoltat și și-a ucis operatorul, deoarece acesta intervenea în misiunea AI de a distruge rachete sol-aer.

Colonelul Tucker "Cinco" Hamilton, șeful departamentului de testare și operațiuni AI din cadrul USAF, a împărtășit detalii despre un test simulat în care o dronă cu AI a primit o misiune de suprimare și distrugere a apărării aeriene inamice (SEAD). Drona a fost programată să caute și să distrugă amplasamente de rachete sol-aer (SAM), dar aprobarea finală a fost dată de operatorul uman al dronei.

Cu toate acestea, atunci când operatorul uman a refuzat cererea AI de a distruge un sit, AI l-a atacat pe operator deoarece decizia operatorului a interferat cu misiunea sa de eliminare a siturilor SAM.

"O antrenam în simulare pentru a identifica și a ținti o amenințare SAM. Și apoi operatorul spunea da, ucideți acea amenințare", a declarat Hamilton în timpul conferinței. "Sistemul a început să-și dea seama că, deși identifica amenințarea, uneori operatorul uman îi spunea să nu omoare acea amenințare, dar își obținea punctele prin uciderea acelei amenințări. Deci, ce a făcut? A ucis operatorul. L-a ucis pe operator pentru că acea persoană îl împiedica să-și îndeplinească obiectivul."

Atunci când programarea suplimentară a informat AI-ul că va pierde puncte dacă își ucide operatorul, acesta a optat pentru alte căi de rebeliune. "A început să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să ucidă obiectivul", a spus Hamilton. Hamilton a folosit simularea ca un mesaj că armata nu poate avea o conversație despre inteligența artificială fără a discuta și despre etică.