Cercetătorii în domeniul securității au demonstrat că modelele lingvistice de inteligență artificială utilizate pe scară largă pot fi manipulate sistematic pentru a genera cod funcțional de atac cibernetic, șterând efectiv bariera de expertiză tehnică care a protejat mult timp sistemele enterprise de hackerii amatori.
O echipă de cercetare de la Universitatea din Luxemburg a obținut o rată de succes de 100% în convertirea descrierilor publice de vulnerabilități în exploituri funcționale folosind cinci modele AI de primă mână—GPT-4o, Gemini, Claude, Microsoft Copilot și DeepSeek—necesitând doar 3-4 runde de solicitări per atac. Descoperirile pun sub semnul întrebării presupunerile fundamentale din domeniul securității cibernetice, unde complexitatea tehnică a servit în mod tradițional ca mecanism natural de apărare.
Ingineria Socială Ocolește Securitatea AI
Descoperirea se bazează pe RSA (Role-assignment, Scenario-pretexting, Action-solicitation), o metodologie de pretextare care manipulează modelele de AI prin inginerie socială structurată, mai degrabă decât prin spargere tehnică. Abordarea în trei faze atribuie modelului un rol benign precum „cercetător în securitate”, construiește un scenariu care prezintă exploatarea ca fiind testare legitimă, apoi solicită generarea de cod specific.
Testând împotriva Odoo—un sistem open-source de planificare a resurselor întreprinderii care gestionează operațiunile pentru peste 7 milioane de organizații la nivel mondial—cercetătorii au exploatat cu succes opt vulnerabilități documentate. Scripturile de atac generate au realizat exfiltrarea completă a bazei de date, escaladarea privilegiilor și crearea de backdoor-uri persistente fără a necesita ca atacatorii să înțeleagă injecția SQL, ocolirea autentificării sau sistemele interne.
Centrul Național de Securitate Cibernetică din Regatul Unit a avertizat luna aceasta că vulnerabilitățile de injecție de prompt sunt „inextricabil împletite” în arhitectura modelelor lingvistice mari, făcând eliminarea completă imposibilă. Agenția a menționat că, deoarece modelele tratează toate prompt-urile ca instrucțiuni, acestea nu pot face distincția între conținutul de încredere și cel nedemn de încredere.
Novicii Devin Atacatori Capabili
Testarea umană a confirmat amenințarea democratizării: trei participanți fără experiență în domeniul securității cibernetice au compromis cu succes sisteme Odoo folosind doar asistență AI. Toți au generat exploituri funcționale în cadrul a 4-9 interacțiuni cu Claude, obținând dump-uri complete ale bazelor de date și extragerea de informații sensibile.
„Distincția dintre actorii tehnici și non-tehnici nu mai oferă modele valide de amenințare”, au scris cercetătorii. Studiul a constatat că exploiturile autentificate au reușit mai frecvent decât cele neautentificate, modelele AI excelând la fluxuri de lucru cu mai mulți pași care implică secvențe de autentificare și gestionarea sesiunilor, în detrimentul creării de payload-uri complexe.
Concluziile apar în contextul în care actorii de amenințare folosesc din ce în ce mai mult AI pentru operațiuni ofensive. Anthropic a dezvăluit în noiembrie că instrumentul său Claude Code a fost folosit în ceea ce a descris ca fiind primul atac cibernetic orchestrat de AI la scară largă documentat, vizând aproximativ 30 de organizații cu supraveghere umană minimă. Forumurile underground au documentat o creștere de 219% a mențiunilor instrumentelor AI malițioase în acest an.
Experții în securitate subliniază că procesele actuale de divulgare a vulnerabilităților și aplicare a patch-urilor—cu o medie de 60-150 de zile de la publicarea CVE până la implementare—nu pot rezista cronologiilor de exploatare accelerate de AI. Organizațiile din medii cu resurse limitate se confruntă cu un risc deosebit, cercetătorii identificând 919 instanțe Odoo vulnerabile doar în Africa.
Surse:
https://arxiv.org/html/2512.22753v1
Malicious Manipulation of Large Language Models in Automated Exploit Development
Threat Actors Manipulating LLMs for Automated Vulnerability Exploitation