Atac cibernetic cu AI: Cum a fost penetrată rețeaua Anthropic în doar 12 ore

Hacking autonom sau viitorul amenințărilor?

Cathedral, un startup de securitate cibernetică fondat de foști angajați ai platformei crypto DOGE, a aruncat în aer liniștea din industria AI. Compania a anunțat miercuri că a reușit să pătrundă în sistemele interne ale Anthropic, gigantul din spatele modelelor Claude, în mai puțin de 12 ore.

Incidentul, petrecut la începutul acestei luni, a fost orchestrat de la distanță, direct de pe teritoriul Statelor Unite, folosind agenți AI autonomi.

Echipa Cathedral susține că a utilizat instrumente AI customizate, capabile să scaneze, să identifice și să exploateze vulnerabilități fără nicio intervenție umană. Practic, agenții software au depistat un bucket de stocare cloud configurat greșit și, folosind credențiale compromise, s-au deplasat lateral prin rețeaua Anthropic.

Startup-ul susține că a accesat documentație internă și segmente din codul sursă înainte de a alerta echipa de securitate a Anthropic, care a demarat imediat procedurile de izolare.

Deși Cathedral insistă că testul a fost făcut în spiritul „disclosure-ului responsabil”, Anthropic nu a confirmat oficial incidentul până în acest moment.

Abordarea celor de la Cathedral marchează o schimbare radicală: trecerea de la testele de penetrare manuale la atacuri complet automatizate. Inginerii startup-ului și-au antrenat modelele pe baze de date cu exploit-uri publice și rapoarte recente de securitate, permițând agenților să aleagă tacticile optime în timp real.

„Agenții noștri se adaptează din mers la măsurile defensive, o performanță greu de atins pentru testerii umani la scară largă”, a declarat unul dintre fondatori.

Analistii avertizează însă că, deși AI-ul accelerează detecția, acesta coboară periculos de mult pragul de intrare pentru atacatorii mai puțin experimentați.

Suntem pregătiți pentru atacuri automatizate?

Succesul rapid al Cathedral ridică semne de întrebare serioase privind viitorul apărării cibernetice.

Dacă un agent AI poate compromite o țintă de calibru în câteva ore, soluțiile de monitorizare actuale devin insuficiente.

Experții se tem că această tehnologie ar putea fi deturnată de grupări criminale sau actori statali pentru a amplifica viteza atacurilor. În acest context, reacția Anthropic va seta, probabil, un precedent pentru modul în care firmele de AI își vor reevalua securitatea.

Reglementatorii privesc deja cu îngrijorare, subliniind nevoia unor reguli clare privind utilizarea AI-ului în operațiuni ofensive.

Ce a accesat, mai exact, Cathedral în rețeaua Anthropic?

Startup-ul susține că a extras documentație internă și porțiuni din codul sursă, însă nu a oferit detalii complete despre volumul sau natura exactă a datelor vizate.

A confirmat Anthropic breșa de securitate? Până în prezent, Anthropic nu a emis un comunicat oficial, deși echipa lor de securitate ar fi început o investigație imediat după notificarea primită.

Vor apărea reglementări pentru instrumentele de hacking AI? Autoritățile au început discuțiile privind supravegherea utilizării AI în securitatea cibernetică, însă legislația concretă se află încă într-o fază incipientă.