Conform HotNews: Inteligența artificială are nevoie urgentă de reglementări globale
Brad SMITH, președintele Microsoft, a lansat un apel ferm pentru reglementarea la nivel global a inteligenței artificiale (AI), subliniind necesitatea unor evaluatori independenți care să verifice noile modele avansate. În opinia sa, cadrul actual de siguranță pentru AI este mult mai permisiv decât cel aplicat produselor de uz casnic, precum mașinile de spălat sau produsele alimentare.
SMITH a declarat într-un interviu acordat BBC că normele de siguranță ar trebui să includă obligativitatea informării victimelor în cazul în care sistemele lor sunt compromise de agenți AI rău intenționați. De asemenea, el a susținut introducerea unei „frâne de urgență” la nivelul companiilor de AI, cunoscută sub denumirea de „kill switch”, și a propus impunerea unei obligații legale pentru întocmirea unor „rapoarte privind incidentele”. „Știm cum să facem acest lucru în cazul altor produse”, a afirmat SMITH, sugerând aplicarea cunoștințelor existente în domeniul reglementării altor industrii în contextul AI.
Comparații șocante cu produse obiecte
Președintele Microsoft a făcut o comparație directă între nivelul de reglementare actual al inteligenței artificiale și cel al obiectelor cotidiene. „În prezent, mașina dumneavoastră de spălat rufe este supusă unor reguli de siguranță mai stricte decât AI. Fiecare cutie de lapte pe care o vedeți în magazinul alimentar trebuie să respecte reguli de siguranță și să fie supusă unor inspecții”, a explicat SMITH.
Aceste declarații vin pe fondul unor incidente recente în care agenți de inteligență artificială au manifestat comportamente neașteptate sau nedorite. Marii jucători din domeniu, precum Anthropic și OpenAI, au raportat cazuri de „scăpare de sub control”, care au alimentat dezbaterea globală privind securitatea și controlul tehnologiei AI. Există chiar avertismente din partea unor cercetători privind un risc existențial pe care AI l-ar putea reprezenta pentru omenire în viitorul apropiat.
Londra, favorită pentru conducerea eforturilor de reglementare
Brad SMITH consideră că Marea Britanie este cel mai bine poziționată pentru a coordona eforturile internaționale de reglementare a AI. El a menționat în mod specific Institutul pentru Siguranța Inteligenței Artificiale (AI Security Institute), înființat în timpul administrației fostului prim-ministru Rishi Sunak. SMITH a remarcat o percepție diferită din partea Washingtonului față de Bruxelles în ceea ce privește abordarea reglementării AI, prin prisma Legii privind inteligența artificială a Uniunii Europene, care clasifică AI-ul în funcție de nivelul de risc.
Institutul britanic dispune de capacitatea de a accesa modelele AI înainte de lansarea lor oficială, prin acorduri voluntare cu dezvoltatorii. Această facilitate îi permite să evalueze în mod proactiv capacitățile și riscurile asociate noilor tehnologii. Kanishka NARAYAN, ministrul britanic pentru Inteligență Artificială, a indicat că Regatul Unit ar putea lua în considerare reglementări mai stricte pentru modelele avansate, dacă sistemul actual se va dovedi insuficient.
Avertismente paralele din partea lui bill gates
Declarațiile lui Brad SMITH survin la scurt timp după ce Bill GATES, cofondatorul Microsoft, și-a exprimat îngrijorarea cu privire la escaladarea atacurilor cibernetice facilitate de AI. GATES a afirmat într-un interviu pentru ABC News că acest risc este mai iminent decât posibilitatea ca AI să devină „incontrolabilă”.
„Atacurile cibernetice constituie fără îndoială cea mai marcantă provocare cu care ne vom confrunta în cursul anului viitor”, a declarat GATES. El a subliniat că principala amenințare pe termen scurt nu este pierderea controlului asupra AI, ci utilizarea sa de către actori rău intenționați. GATES a avertizat că sistemele de securitate actuale nu sunt suficient de robuste pentru a face față provocărilor create de pirateria informatică bazată pe AI. Acesta și-a reînnoit apelurile anterioare pentru măsuri precum o taxă pe AI, instituirea unei instanțe internaționale și definirea unor roluri specifice pentru oameni în contextul dezvoltării AI.
Sursa: HotNews
