Cerere uimitoare din lumea AI: o pauză coordonată în dezvoltare
Compania de inteligență artificială Anthropic, condusă de DARIO AMODEI, a lansat un apel către marile laboratoare din domeniu, solicitând o pauză coordonată și verificabilă în cercetarea și dezvoltarea accelerată a inteligenței artificiale. Avertismentul vine pe fondul temerilor că progresele rapide ar putea duce la sisteme AI capabile să se auto-îmbunătățească într-un ritm greu de gestionat de către societate.
Vârsta autoîmbunătățirii seemed proche?
Anthropic, compania din spatele modelului AI Claude, a declarat într-un mesaj publicat pe blogul său că abilitatea sistemelor AI de a îndeplini sarcini în mod autonom s-a dublat la aproximativ fiecare patru luni. Acest ritm alarmant de progres ridică posibilitatea „autoîmbunătățirii recursive”, un punct critic în care un sistem AI își poate crea proprii succesori, fără intervenție umană.
„Dacă sistemele sunt capabile să își construiască integral propriii succesori, modalitățile prin care le securizăm, le monitorizăm și le modelăm comportamentul devin cu atât mai importante”, au subliniat reprezentanții startup-ului californian. Aceștia consideră că o astfel de pauză ar oferi societății timpul necesar pentru a analiza și gestiona implicațiile uriașe ale acestei tehnologii.
JACK CLARK, cofondator al Anthropic, și MARINA FAVARO, directoarea Anthropic Institute, au avertizat că, deși autoîmbunătățirea recursivă nu este inevitabilă, ea ar putea apărea mai repede decât se așteaptă majoritatea instituțiilor. Compania a fost fondată în 2021 de foști angajați ai OpenAI, plecați din cauza preocupărilor legate de siguranța dezvoltării AI.
AI depășește capacitatea de reglementare
Temerile privind pierderea controlului asupra sistemelor AI avansate au crescut odată cu noile capacități ale acestora. Chiar și modelul Mythos dezvoltat de Anthropic a generat îngrijorări majore în sectoare precum cel bancar și cel al dezvoltării software, datorită abilității sale de a identifica vulnerabilități în cod. Anthropic a ales să nu lanseze public acest model, oferindu-l doar unui grup select de companii pentru analiză.
Eforturile de reglementare a inteligenței artificiale au înregistrat progrese lente, în special în Statele Unite, unde își au sediul majoritatea laboratoarelor AI de top. O inițiativă recentă a administrației DONALD Trump transferă responsabilitatea siguranței asupra laboratoarelor, solicitând testarea voluntară a celor mai avansate modele de către guvern, înainte de lansarea publică.
Elon Musk a fost, de altfel, un susținător al unei inițiative lansate în 2023 de Future of Life Institute pentru suspendarea dezvoltării AI timp de șase luni, însă ulterior și-a lansat propria companie de inteligență artificială, xAI, ridicând semne de întrebare cu privire la consecvența poziției sale.
Un avertisment de la o companie evaluată la aproape un trilion de dolari
Anthropic s-a poziționat constant ca un laborator AI dedicat siguranței. Compania a refuzat anterior utilizarea modelelor sale de către armata americană pentru supraveghere internă sau arme complet autonome. Cu toate acestea, compania a continuat să lanseze modele din ce în ce mai performante, renunțând în februarie la un angajament important privind siguranța, afirmând că nu va mai reține dezvoltarea unei inteligențe artificiale potențial periculoase dacă rivalii săi se apropie de nivelul său de performanță.
Recent, Anthropic a fost evaluată la 965 de miliarde de dolari în cadrul unei runde masive de finanțare și a depus documentația pentru o ofertă publică inițială (IPO) în Statele Unite, depășind astfel rivalul OpenAI în evaluare și în cursa pentru atragerea de finanțare.
Apel la acțiune colectivă pentru gestionarea riscurilor AI
Anthropic a subliniat că o pauză unilaterală sau slab coordonată ar putea avea efecte contrare, permițând actorilor mai puțin precauți să avanseze, reducând astfel nivelul general de siguranță. O pauză eficientă ar necesita un acord global între „mai multe laboratoare bine finanțate”, precum și stabilirea unor reguli clare privind declanșarea și încheierea acesteia, și cine ar trebui să o supravegheze.
Anthropic Institute intenționează să studieze sistemele necesare pentru a susține o astfel de încetinire, urmând să organizeze discuții cu factori de decizie politică, cercetători și companii rivale din domeniul AI pentru a aborda riscuri precum autoîmbunătățirea recursivă. OpenAI, xAI, Alphabet, Meta Platforms și Mistral nu au răspuns imediat solicitărilor de comentarii pe această temă.
Sursa: HotNews
