Promisiuni și realități în lumea inteligenței artificiale
Scandaluri de la vârful companiei OpenAI, un lider în domeniul inteligenței artificiale, ridică semne de întrebare cu privire la angajamentul față de siguranță și resursele reale alocate pentru cercetare. Promisiuni mari, fonduri evaluate la un miliard de dolari și echipe dedicate super-aliniamentului – acestea par să se fi dovedit a fi mai degrabă o strategie de imagine.
În 2022, CEO-ul OpenAI, SAM Altman, a încercat să atragă cercetători promițători, subliniind importanța siguranței în dezvoltarea AI. Un student doctorand de la Universitatea din Berkeley a fost convins de promisiunile lui ALTMAN și a părăsit mediul academic pentru a se alătura OpenAI.
Resurse limitare pentru cercetare
În primăvara lui 2023, ALTMAN și-a schimbat strategia. A renunțat la ideea unui premiu substanțial și a propus înființarea unei echipe interne dedicată super-aliniamentului. Anunțul oficial promitea „20% din capacitatea de calcul” a companiei pentru această echipă – o resursă potențial valoroasă.
Realitatea a fost însă alta, potrivit surselor interne. Resursele alocate au fost estimate între unu și două procente. Mai mult, o parte din capacitatea de calcul disponibilă echipei era depășită tehnologic. Cercetătorii au suspectat că resursele superioare erau rezervate proiectelor cu potențial de profit.
Omiscuni și Dezinformări
Problemele nu s-au oprit aici. Mesajele interne indică faptul că conducerea și membrii consiliului de administrație au început să suspecteze că ALTMAN ascundea informații importante și practică dezinformări. Într-o întâlnire din decembrie 2022, ALTMAN a asigurat consiliul că diverse funcții ale modelului GPT-4 au fost aprobate de panelul de siguranță.
Documentele solicitate de un membru al consiliului de administrație, expert în politici AI, au arătat contrariul. Funcțiile controversate nu fuseseră aprobate. Mai mult, ALTMAN a omis să menționeze consiliului lansarea unei versiuni timpurii a ChatGPT în India de către MICROSOFT, fără o revizuire adecvată a siguranței.
Echipa de super-aliniament a fost dizolvată în anul următor, fără a-și îndeplini misiunea.
