Conform Ziarul Financiar: Inteligența artificială amenințată de noi vulnerabilități cibernetice
O nouă descoperire pune în gardă comunitatea tehnologică globală cu privire la fragilitatea sistemelor bazate pe inteligență artificială (AI). Cercetători de la Universitatea Stanford au identificat recent o serie de vulnerabilități critice care ar putea permite atacatorilor să manipuleze sau să dezactiveze complet modelele AI. Aceste descoperiri, publicate în ediția de 11 august 2026 a publicației e-paper, ridică semne de întrebare serioase legate de securitatea viitoare a infrastructurilor digitale dependente de AI.
Implicații globale și riscuri sporite
Vulnerabilitățile identificate afectează în mod direct modul în care modelele AI procesează și interpretează datele de intrare. Potrivit experților, atacatorii ar putea injecta secvențe de cod malițios, cunoscute sub numele de „drift attacks”, care să determine sistemul AI să ia decizii eronate sau periculoase. Aceasta ar putea avea consecințe dezastruoase în domenii precum transportul autonom, diagnosticarea medicală sau sistemele de apărare.
Riscuri concrete pentru infrastructura digitală
Cercetarea de la Stanford subliniază că problema nu este una teoretică, ci una cu implicații practice imediate. Modelele AI folosite în prezent în diverse aplicații critice par a fi susceptibile la aceste noi forme de atac. De exemplu, un vehicul autonom ar putea fi indus în eroare de semnale manipulate, ducând la coliziuni. Similar, un sistem de diagnostic medical bazat pe AI ar putea oferi rezultate fals pozitive sau negative, cu consecințe grave asupra pacienților.
Experimentele preliminare au demonstrat că aceste „drift attacks” pot fi executate cu resurse relativ limitate, ceea ce le face accesibile unui număr mare de actori malițioși. Mai îngrijorător este faptul că, odată ce un model AI este compromis, devine dificil să se determine cauza exactă a erorilor, permițând atacurilor să rămână nedetectate pentru perioade îndelungate.
Măsuri de securitate și viitorul AI
Comunitatea de cercetare și dezvoltare în domeniul AI lucrează deja la soluții pentru a contracara aceste noi amenințări. Se preconizează introducerea unor noi protocoale de securitate și dezvoltarea unor metode de detectare și atenuare a atacurilor de tip „drift”. Totuși, natura evolutivă a inteligenței artificiale sugerează că lupta pentru securitate va fi una continuă.
Experții consideră că este imperativă o colaborare strânsă între cercetători, companii de tehnologie și organisme de reglementare pentru a stabili standarde de securitate robuste. Prioritatea este asigurarea integrității și fiabilității sistemelor AI, mai ales în contextul integrării lor tot mai profunde în viața de zi cu zi.
Președintele companiei TechSecure, Dr. ANNA POPESCU, a declarat în cadrul unui interviu telefonic: „Aceste descoperiri sunt un semnal de alarmă, dar nu o condamnare a tehnologiei AI. Ele subliniază necesitatea unei abordări proactive în securitatea cibernetică.”nnUniversitatea Stanford va organiza un seminar internațional pe data de 15 septembrie 2026, dedicat discuției despre aceste vulnerabilități și strategii de apărare.
Sursa: Ziarul Financiar
