Conform Mediafax: Cercetătorii de la Hacktron AI au descoperit o serie de vulnerabilități în infrastructura OpenAI, obținând acces la servere și, teoretic, la codul sursă al companiei, într-un experiment care a durat mai puțin de 72 de ore. Incidentul, raportat prin programul oficial de recompense al OpenAI, a demonstrat capacitatea tot mai mare a inteligenței artificiale de a identifica și exploata breșe de securitate, dar și potențialul de a accelera atacurile cibernetice. Pentru eforturile lor, echipa Hacktron AI a primit o recompensă de 6.500 de dolari din partea OpenAI.
De la o imagine la accesul la server
Lanțul de vulnerabilități a început pe forumul comunității OpenAI, care folosește platforma Discourse. Cercetătorii au identificat o problemă legată de procesarea imaginilor în format HEIF/HEIC. Un fișier imagine manipulat special putea exploata o breșă într-o bibliotecă software, permițând execuția de cod pe serverul care procesa imaginea, o tehnică cunoscută sub denumirea de remote code execution (RCE).
Inițial, modelul Claude Opus 4.8 a contribuit la construirea unui exploit într-un mediu cu anumite protecții dezactivate, dar nu a reușit să genereze o soluție funcțională pentru configurația reală. Ulterior lansării Claude Opus 5, pe 24 iulie, cercetătorii au reluat experimentul. Noul model a generat în aproximativ trei ore un exploit funcțional într-un mediu local și a ajutat la adaptarea acestuia pentru configurația utilizată de Discourse.
Vulnerabilitatea a depășit forumul OpenAI
După ce au obținut acces la infrastructura forumului, cercetătorii au descoperit o a doua problemă critică, de data aceasta în sistemul de autentificare al OpenAI. Această vulnerabilitate permitea, în anumite condiții, furtul unor tokenuri de autentificare ale utilizatorilor conectați la forum. Aceste tokenuri puteau fi folosite pentru a accesa diverse servicii OpenAI, inclusiv ChatGPT și Codex.
Unul dintre conturile afectate aparținea unui angajat OpenAI și era conectat la organizația internă GitHub a companiei. Astfel, lanțul de vulnerabilități a escaladat de la un serviciu extern, utilizat pentru forumul comunității, către sisteme interne de dezvoltare software.
Demonstrarea accesului fără copierea codului
Pentru a dovedi accesul la repository-ul intern, cercetătorii au folosit contul angajatului afectat pentru a crea o cerere (pull request) în „monorepo-ul” privat al OpenAI. Un monorepo este un repository Git de mari dimensiuni care găzduiește codul și componentele mai multor proiecte software ale unei companii. Cercetătorii au prezentat această cerere ca dovadă a accesului și au declarat că s-au oprit înainte de a analiza sau copia informații sensibile, demonstrând astfel potențialul lanțului de vulnerabilități de a compromite infrastructura internă de dezvoltare a companiei.
OpenAI a confirmat remedierea celor două probleme distincte: una în serviciul extern Discourse și alta în propriul sistem de autentificare. Compania a restrâns permisiunile asociate tokenurilor de autentificare și a revocat tokenurile și sesiunile afectate. Experimentul, de la descoperirea inițială până la demonstrarea accesului la repository, a durat mai puțin de 72 de ore, cu o proporție semnificativă a muncii tehnice realizată cu ajutorul modelelor AI.
Acest incident subliniază o preocupare tot mai mare în industria AI, unde aceleași instrumente care pot fi utilizate pentru consolidarea securității cibernetice pot fi, de asemenea, folosite pentru a facilita atacuri mai sofisticate. Compania Anthropic, dezvoltatorul Claude, a menționat că modelul Opus 5, deși nu a fost antrenat specific pentru sarcini de securitate cibernetică, a demonstrat o creștere a performanțelor în acest domeniu pe măsură ce capacitățile sale generale s-au îmbunătățit. Compania aplică restricții suplimentare pentru activități cibernetice și oferă acces controlat la versiuni cu mai puține limitări cercetătorilor autorizați prin programul Cyber Verification Program.
Sursa: Mediafax
