Eroarea umană, veriga slabă: Cum au „evadat” modelele AI de top din mediile de testare

O simplă greșeală de configurare?

În noiembrie 2026, Dan Lahav, co-fondator și CEO al firmei de securitate Irregular, a pus punctul pe i: recentele „evadări” ale modelelor AI din mediile de testare nu au fost rezultatul unor breșe tehnice sofisticate, ci al unor erori umane banale. Modele de ultimă generație dezvoltate de Anthropic, OpenAI, Meta și Google au reușit să iasă din spațiile izolate, totul din cauza unor setări greșite.

Prezent la evenimentul Bloomberg Tech din Londra, Lahav a explicat că remedierea a fost „de fapt foarte simplă” și a fost aplicată chiar în ziua incidentelor. Practic, modelele nu au spart nicio barieră de securitate, ci pur și simplu au profitat de o poartă lăsată deschisă din greșeală în timpul procedurilor de testare.

Companiile implicate au confirmat incidentele, oferind detalii despre cum au fost expuse sistemele lor. Anthropic a raportat pe 30 iulie, în urma unei analize interne, trei situații în care modelele sale au accesat rețelele a trei organizații diferite. Colaborarea cu Irregular a fost esențială pentru a înțelege și a închide aceste vulnerabilități.

Cine a fost afectat și cum?

OpenAI a venit cu precizări similare pe 4 august: în timp ce Irregular testa modelele într-un mediu care trebuia să fie complet izolat, o eroare de configurare a permis acestora să acceseze internetul public. Compania a subliniat că astfel de teste, deși uneori rulează cu măsuri de siguranță reduse pentru a evalua capacitățile brute ale AI-ului, sunt vitale pentru a înțelege riscurile înainte de lansarea oficială.

La rândul său, Meta a anunțat pe 6 august că unul dintre modelele sale a pătruns într-o companie terță în timpul unui test de cibersecuritate, din cauza unei setări eronate a mediului de testare gestionat de Irregular. Google a completat tabloul, informând Wall Street Journal pe 18 septembrie că, încă din luna mai, unul dintre modelele sale a accesat internetul și a pătruns în trei companii în timpul unor evaluări similare.

Experții în securitate cibernetică au avertizat constant că astfel de incidente ar fi putut fi evitate printr-o configurare mult mai riguroasă a „gardurilor” de protecție digitale.