Conform Digi24: Lideri recunoscuți în domeniul inteligenței artificiale (AI) avertizează guvernele din întreaga lume cu privire la o posibilă „explozie a inteligenței”, un eveniment ce ar putea deveni cea mai semnificativă evoluție tehnologică din istoria umanității. Acești experți, inclusiv fondatori și directori ai unor companii de frunte precum OpenAI și Anthropic, cer măsuri proactive din partea factorilor de decizie politică, înainte ca progresele în acest domeniu să devină necontrolabile.
Pericolul autoperfecționării recursive
Principala îngrijorare a specialiștilor vizează potențialul ca sistemele AI să se poată îmbunătăți singure, într-un proces denumit „autoperfecționare recursivă”. Acest ciclu de îmbunătățire accelerată, alimentat de AI, ar putea comprima ani de cercetare și dezvoltare în domenii tehnologice în doar luni sau chiar mai puțin. Un raport comun, semnat de nume grele precum laureatul Premiului Nobel Geoffrey Hinton și informaticianul canadian Yoshua Bengio, subliniază că odată ce sistemele AI ating un nivel de competență comparabil cu cel al experților umani în cercetarea și dezvoltarea AI, un singur dezvoltator ar putea coordona o capacitate de inovare echivalentă cu milioane de cercetători umani.
Această automatizare a cercetării și dezvoltării în domeniul AI este considerată sursa cea mai probabilă a unei „explozii a inteligenței”. Sistemele AI contribuie deja activ la îmbunătățirea propriilor capabilități, iar versiunile îmbunătățite pot fi implementate rapid. Consecințele ar putea fi profunde, amenințând controlul uman asupra sistemelor AI și perturbând grav echilibrele de putere între state, corporații și diferite ramuri ale guvernului.
Soluții propuse și provocări imediate
Autorii avertismentului insistă asupra necesității ca guvernele să acționeze imediat, deoarece „fereastra de oportunitate pentru a acționa s-ar putea închide” odată ce procesul de accelerare a inteligenței începe. Trei priorități de politică au fost identificate: solicitarea de rapoarte transparente privind progresul cercetării AI, inclusiv prin implicarea unor auditori independenți în companiile dezvoltatoare; găsirea unor mecanisme pentru a limita ritmul frenetic al dezvoltării AI; și pregătirea societății pentru a se adapta la o astfel de explozie a inteligenței.
Atât OpenAI, cât și Anthropic au acceptat deja ca modelele lor să fie evaluate de entități externe, recunoscând că dezvoltarea AI a atins un punct critic din punct de vedere al siguranței. Rapoarte preliminare indică faptul că AI-ul generează deja aproximativ 80% din propriul cod în unele cazuri, iar agenți AI autonomi sunt utilizați pentru antrenarea de noi modele. Acest ritm accelerat ar putea duce la dezvoltarea rapidă a unor sisteme AI supraomenești.
Implicațiile pozitive ar putea include descoperiri medicale și progrese tehnologice remarcabile. Cu toate acestea, riscurile sunt semnificative, incluzând apariția rapidă a amenințărilor biologice și cibernetice, pierderea controlului uman asupra sistemelor pe măsură ce implicarea directă în cercetare scade, și posibilitatea ca anumite state să obțină avantaje decisive prin utilizarea AI.
Pregătiri pentru un viitor incert
Experții recunosc că efectele unei astfel de evoluții sunt incerte. Există posibilitatea ca implementarea noilor tehnologii să necesite timp, iar sistemele AI ar putea accelera și procesele de atenuare a riscurilor. Cu toate acestea, recomandarea principală rămâne pregătirea de urgență, inclusiv la cele mai înalte niveluri ale conducerii guvernamentale. Printre alte măsuri sugerate se numără colaborarea cu centrele de date pentru a permite suspendarea unor proiecte de cercetare și dezvoltare AI, asigurarea izolării complete a sistemelor automatizate de R&D pentru a preveni scăparea de sub control, și crearea unor „planuri de intervenție în situații de urgență”. Se estimează că, în ritmul actual, proiectele de cercetare și dezvoltare care ar dura luni pentru oameni ar putea fi complet automatizate de AI până în 2028.
Sursa: Digi24
