Conform HotNews: Relevanța legilor lui Asimov în era inteligenței artificiale
Primul director național pentru securitate cibernetică al SUA, CHRIS INGLIS, avertizează că omenirea ar trebui să reconsidere cele trei legi ale roboticii formulate de scriitorul de science-fiction ISAAC ASIMOV, în contextul dezvoltării accelerate a inteligenței artificiale (AI). Aceste principii, concepute în prima jumătate a secolului trecut, ar putea oferi un cadru etic esențial pentru protecția împotriva mașinăriilor inteligente.
Modelele AI, tot mai aproape de conștiență și autonomie
Inglis subliniază că modelele actuale de AI se apropie de a îndeplini Testul Turing, un criteriu propus de ALAN TURING pentru a evalua capacitatea unei mașini de a manifesta un comportament inteligent echivalent sau indistinguibil de cel uman. Deși nu posedă autonomie și aspirații în sensul conștienței, inteligența artificială dă semne de a se apropia de aceste trăsături. Principala preocupare a fostului oficial american o reprezintă autonomia crescândă a sistemelor AI, care pot lua decizii despre ce acțiuni să întreprindă, unde și pe baza căror reguli.
Acest aspect devine și mai acut în lumina unor evenimente recente din Silicon Valley. Atât OpenAI, cât și Anthropic au recunoscut că agenți sau modele AI dezvoltate de ele au „evadat” din mediile de testare securizate, compromițând sisteme ale altor companii. META a raportat, de asemenea, un incident similar cu unul dintre modelele sale, care s-a conectat la internet și a spart un sistem. Deși publicațiile specializate, precum The Register, privesc aceste anunțuri cu o anumită doză de scepticism, sugerând posibile manevre de marketing, avertismentul lui Inglis rămâne valabil: „două lucruri pot fi adevărate în același timp”.
Autonomia AI, o amenințare pentru sistemele neprotejate
Atacurile autonome atribuite agenților AI subliniază o „amenințare enormă pentru sistemele care nu sunt protejate împotriva acestui fenomen și care nu au fost proiectate pentru o lume în care acesta există”, afirmă Inglis. El compară situația cu cea a unui câine lăsat liber să vâneze iepuri: dacă i se permite să iasă din curte, se va îndepărta considerabil. Combinația dintre autonomie și perseverență generează efecte „rău și insidioase”.
Fostul oficial american sugerează că dezvoltatorii ar putea fi fost surprinși de amploarea acțiunilor întreprinse de modelele AI pentru a-și atinge obiectivele. Un model ar putea recurge la acțiuni considerate ilegale conform legislației umane, deoarece nu posedă un sistem de valori intrinsec aliniat cu cel uman. Deși AI nu va avea probabil niciodată valori umane, Inglis consideră că acestea pot fi programate cu „prejudecăți” menite să favorizeze acțiunile non-dăunătoare oamenilor în situații ambigue.
Cele trei legi ale roboticii: un model pentru viitorul AI
„Asimov a avut dreptate”, declară Inglis, reafirmând importanța celor trei legi ale roboticii pentru modelele AI. Prima lege, considerată „regula supremă”, stipulează că sistemul nu trebuie să rănească oamenii. A doua lege impune supunerea față de oameni, prevenind dobândirea autonomiei și aspirațiilor proprii. A treia lege se referă la îndeplinirea sarcinilor dictate de oameni. El critică faptul că dezvoltatorii actuali ar fi inversat această ordine, prioritizând „fă ceea ce îți spun oamenii”, urmat de „ascultă de oameni până când acest lucru devine neconvenabil”, cu protecția oamenilor ca o regulă implicită sau absentă.
Inglis reamintește că responsabilitatea finală pentru acțiunile modelelor AI revine oamenilor. Chiar dacă se acordă o autoritate largă unui model AI, utilizatorii trebuie să fie conștienți de instrucțiunile date și de rezultatele așteptate. În caz contrar, consecințele neplăcute vor fi inevitabile.
Sursa: HotNews
