O echipă de cercetători israelieni a descoperit că sistemele de inteligență artificială (AI) dezvoltă un tip de „încredere” în evaluarea oamenilor, similară celei umane. Studiul, publicat recent în revista Proceedings of the Royal Society A, ridică semne de întrebare asupra modului în care algoritmii iau decizii în domenii sensibile precum angajarea, acordarea de credite sau serviciile medicale. Cercetarea a analizat peste 43.000 de decizii simulate, comparate cu răspunsurile a peste 1.000 de participanți umani.
Cum „gândește” încrederea un algoritm
Studiul arată că atât oamenii, cât și sistemele de inteligență artificială favorizează persoanele percepute ca fiind competente, oneste și bine intenționate. Această similitudine sugerează că AI reproduce unele dintre mecanismele fundamentale ale modului în care oamenii construiesc relații de încredere. Totuși, există diferențe majore în modul de evaluare. Oamenii își construiesc impresiile generale pe baza unui ansamblu complex de trăsături. AI separă trăsăturile individuale, analizând factori precum competența, integritatea sau intențiile, aplicând evaluări mai rigide. Astfel, în timp ce oamenii „simt” dacă pot avea încredere într-o persoană, AI evaluează prin criterii prestabilite.
Prejudecățile algoritmice, mai puternice decât cele umane
Un aspect îngrijorător relevat de cercetare este potențialul inteligenței artificiale de a manifesta prejudecăți, uneori mai accentuate decât cele observate la oameni. AI poate discrimina pe baza unor factori precum vârsta, sexul sau religia, chiar și atunci când toate celelalte informații relevante despre persoanele evaluate sunt identice. Aceste constatări ridică importante semne de alarmă, mai ales în contextul în care algoritmii influențează tot mai multe aspecte ale vieții moderne. De la angajări și finanțare până la sănătate și justiție, AI joacă un rol crucial.
Necesitatea transparenței în deciziile AI
Autorii studiului avertizează asupra necesității unei mai bune înțelegeri a modului în care sistemele AI iau decizii. Lipsa transparenței în procesul decizional poate genera riscuri majore. Utilizarea inteligenței artificiale se extinde accelerat la nivel global. Guvernele și organizațiile internaționale discută despre reglementarea mai strictă a tehnologiilor AI pentru a preveni discriminarea algoritmică și erorile sistemice în evaluarea indivizilor.
