Conform Mediafax: Înaltul Comisar al ONU pentru Drepturile Omului, Volker Turk, a lansat un avertisment ferm privind riscurile pe care le implică dezvoltarea rapidă a inteligenței artificiale (IA), în special în ceea ce privește autonomia crescândă a sistemelor, care ar putea depăși capacitatea umană de control. Declarațiile au fost făcute la Geneva, la deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului, unde oficialul a pledat pentru instituirea urgentă a unui sistem de guvernanță pentru IA.
Linii roșii și verificări pentru IA
Volker Turk a subliniat necesitatea stabilirii unor „linii roșii” comune pentru dezvoltarea și utilizarea IA. Acestea ar trebui să fie agreate de statele care găzduiesc infrastructura tehnologică și de cele implicate în lanțurile de aprovizionare ale acestor sisteme. Oficialul ONU a cerut, de asemenea, verificarea independentă a sistemelor de IA și o colaborare mai strânsă între companiile din industrie în domeniul siguranței. În acest sens, Turk a anunțat intenția de a trimite o scrisoare companiilor din sector, îndemnându-le să ia măsuri concrete pentru reducerea riscurilor.
„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”, a avertizat Înaltul Comisar, subliniind că sunt necesare „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”.
Modelele IA, tot mai autonome
Modelele generative de IA demonstrează deja o capacitate crescândă de a executa sarcini complexe și de a lua decizii fără intervenție umană constantă. Unele sisteme pot identifica singure pașii necesari pentru îndeplinirea unei sarcini, ceea ce ridică întrebări despre cum poate fi supravegheat și limitat comportamentul lor. Această autonomie tot mai mare reprezintă o provocare majoră în gestionarea riscurilor asociate cu inteligența artificială.
Impactul asupra locurilor de muncă și democrației
Riscurile inteligenței artificiale nu se limitează la problemele de autonomie. Volker Turk a atras atenția și asupra impactului potențial al tehnologiei asupra pieței muncii, democrației și mediului, precum și asupra drepturilor fundamentale ale omului. El a criticat concentrarea puterii tehnologice în mâinile unui număr restrâns de companii și persoane, afirmând că dezvoltarea IA trebuie să fie însoțită de reglementări clare pentru protecția drepturilor omului.
În acest context, oficialul ONU a menționat modelele de reglementare adoptate de Uniunea Europeană și Coreea de Sud. Uniunea Europeană a implementat Digital Services Act (DSA), care impune marilor platforme online să evalueze și să reducă riscurile generate de serviciile și algoritmii lor, să respecte cerințe de transparență și să ia măsuri împotriva conținutului ilegal, sub sancțiunea unor amenzi de până la 6% din cifra de afaceri anuală globală. Coreea de Sud a introdus, la rândul său, reguli dedicate IA, inclusiv obligația de a informa utilizatorii atunci când interacționează cu anumite sisteme și cerințe de transparență pentru conținutul generat artificial.
Cu toate acestea, Volker Turk a avertizat că recunoașterea necesității unor reglementări nu s-a tradus încă suficient în măsuri concrete. „Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”, a declarat el.
Sursa: Mediafax
