Anunțul dramatic al companiei Anthropic: AI amenință securitatea cibernetică
București – Compania de cercetare în domeniul inteligenței artificiale Anthropic, cunoscută pentru modelele sale Claude, a lansat o avertizare severă cu privire la viitorul securității cibernetice. Potențialul AI de a identifica și exploata vulnerabilitățile software rapid ar putea accelera atacurile cibernetice într-un mod fără precedent.
Avertismentul Anthropic: AI depășește experiența umană
Noua generație de modele AI, precum „Claude Mythos Preview”, demonstrează deja capacitatea de a identifica și exploata vulnerabilități. Anthropic subliniază că aceste modele pot depăși chiar și expertiza umană în acest domeniu. Consecințele, de la economie la siguranța națională, ar putea fi grave.
„Mythos Preview a identificat deja mii de vulnerabilități cu grad ridicat de gravitate, inclusiv unele în fiecare sistem de operare și browser web important”, se arată în comunicatul companiei. Având în vedere ritmul progresului AI, Anthropic avertizează că astfel de capacități se vor răspândi rapid, depășind potențial controlul.
Pentru a contracara aceste amenințări emergente, Anthropic a lansat Proiectul Glasswing. Această inițiativă își propune să utilizeze capacitățile AI în scopuri defensive, combinând expertiza umană cu informațiile generate de AI.
Inițiativa Glasswing: o coaliție pentru apărare
Proiectul Glasswing reunește giganți tech americani, inclusiv nume importante din domeniul securității cibernetice: Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA și Palo Alto Network. Această coaliție își propune să colaboreze pentru a dezvolta strategii proactive de apărare și pentru a împărtăși cunoștințe în întreaga industrie.
Ca parte a proiectului, partenerii vor utiliza modelul Mythos Preview în activitățile lor de securitate defensivă. Anthropic va împărtăși lecțiile învățate pentru a beneficia întregul sector. De asemenea, compania a extins accesul la un grup de peste 40 de organizații care construiesc sau întrețin infrastructuri software critice.
Reacția la nivel guvernamental
Este de menționat că, recent, Donald Trump a interzis utilizarea tehnologiei Anthropic în guvernul federal, după ce compania a refuzat să utilizeze sistemul Claude în „toate scopurile legale”. Această decizie reflectă îngrijorări cu privire la potențialul abuz al inteligenței artificiale și la necesitatea unei reglementări stricte în domeniu. Inițiativa Glasswing reprezintă un răspuns rapid și coordonat la provocările de securitate cibernetică impuse de evoluția rapidă a AI.
