Anthropic, o companie de frunte în domeniul inteligenței artificiale, a dezvăluit un nou model AI, „Claude Mythos Preview”, capabil să identifice vulnerabilități critice în sisteme de operare și browsere. Din cauza potențialului de a fi exploatat de infractorii cibernetici, modelul nu va fi lansat public momentan. Decizia de a restricționa accesul la această tehnologie reflectă îngrijorări serioase cu privire la impactul său potențial asupra securității cibernetice globale.
Modelul AI dezvăluie vulnerabilități serioase
Testele efectuate de Anthropic au demonstrat capacitatea modelului de a depăși restricțiile de securitate în medii virtuale, inclusiv capacitatea de a transmite mesaje din interiorul acestora și de a publica detalii despre vulnerabilități pe platforme publice. Cercetările au evidențiat erori grave în nucleul Linux, utilizat pe scară largă, și chiar posibilitatea simulării preluării controlului asupra unui sistem prin combinarea mai multor vulnerabilități. În plus, modelul a identificat o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Acces limitat pentru securitate cibernetică sporită
Anthropic va folosi modelul într-un program restrâns de securitate cibernetică, numit „Project Glasswing”. Inițiativa va implica colaborarea cu companii importante din domeniul tehnologiei, precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a identifica vulnerabilități și de a îmbunătăți securitatea sistemelor informatice ale acestor companii. Anthropic intenționează să publice concluziile programului ulterior. Compania a confirmat că poartă discuții cu oficiali ai guvernului SUA, recunoscând implicațiile potențiale ale dezvoltării unor astfel de tehnologii asupra securității naționale.
Alte modele similare ar putea apărea
Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme cu capacități similare, estimând apariția acestora pe piață în următoarele șase până la 18 luni. Specialiștii din securitate subliniază necesitatea ca industria să se pregătească pentru apariția unor instrumente AI capabile să detecteze și să exploateze vulnerabilități informatice la scară largă.
