Anthropic a acceptat să ofere agenției de securitate cibernetică a Uniunii Europene, ENISA, acces la modelul său Claude Mythos, făcând-o astfel prima instituție a UE care obține intrarea în sistemul AI restricționat ce poate descoperi și exploata în mod autonom vulnerabilități software. Decizia, comunicată Comisiei Europene în cursul weekendului, pune capăt săptămânilor de negocieri tensionate între compania de AI și oficialii europeni.
Proiectul Glasswing se deschide către Europa
ENISA va adera la Proiectul Glasswing, inițiativa Anthropic cu acces controlat care permite organizațiilor verificate să testeze capabilitățile modelului înainte de orice lansare mai largă, potrivit Bloomberg, care a relatat primul această știre citând surse familiarizate cu subiectul. Comisia Europeană a confirmat că a avut „mai multe întâlniri productive” cu Anthropic în legătură cu acest aranjament. Thomas Regnier, purtătorul de cuvânt pentru suveranitatea tehnologică a UE, a declarat că blocul comunitar „urmărește să obțină o înțelegere mai clară a posibilelor riscuri asociate tehnologiei”.
Condițiile specifice și calendarul de acces al ENISA nu au fost încă dezvăluite. Până acum, accesul la Mythos a fost limitat la aproximativ 40 de companii americane verificate, anumite entități guvernamentale și organizații din Regatul Unit, Japonia și Australia.
Un model prea puternic pentru a fi lansat public
Anthropic a anunțat Claude Mythos Preview pe 7 aprilie, dar a refuzat să îl lanseze public. Testele efectuate de Institutul pentru Siguranța IA din Marea Britanie au arătat că modelul poate executa atacuri în mai multe etape asupra rețelelor vulnerabile și poate descoperi exploit-uri în mod autonom — sarcini care ar lua profesioniștilor umani zile întregi — reușind în 73% din cazuri să rezolve provocări cibernetice de nivel expert. Anthropic a declarat că modelul poate identifica vulnerabilități zero-day necunoscute anterior în software-ul din lumea reală.
Decizia de a restricționa accesul a fost motivată de considerente de securitate, nu comerciale. Unii profesioniști în securitate cibernetică au pus la îndoială dacă Mythos reprezintă cu adevărat un salt calitativ unic, Jaya Baloo, COO și CISO al firmei de securitate cibernetică Aisle, argumentând că modele open-source de dimensiuni mai mici pot reproduce multe dintre aceleași descoperiri de vulnerabilități.
Implicații mai largi
UE făcuse presiuni timp de săptămâni pentru a fi inclusă în Glasswing, pe fondul îngrijorărilor tot mai mari că excluderea lăsa infrastructura europeană fără acces la aceleași instrumente defensive disponibile instituțiilor americane și aliate. Anthropic a refuzat să comenteze public acest aranjament.
Surse:
https://qz.com/anthropic-mythos-eu-enisa-cybersecurity-access-060126
Anthropic shuts the EU out of its most advanced cyber AI model
byu/x4rvi0n incybersecurity