O schiță de postare pe blog de la Anthropic, expusă accidental printr-un depozit de date configurat greșit la sfârșitul lunii trecute și raportată pentru prima dată de Fortune, a dezvăluit că viitorul model de inteligență artificială al companiei — numit Mythos — este „în prezent cu mult înaintea oricărui alt model de AI în ceea ce privește capabilitățile cibernetice”. Documentul avertiza că Mythos „prefigurează un val viitor de modele care pot exploata vulnerabilități în moduri care depășesc cu mult eforturile apărătorilor”.

 

 

Anthropic restricționează accesul anticipat la organizațiile axate pe apărare cibernetică, oferindu-le un avantaj pentru a consolida sistemele „împotriva valului iminent de exploatări conduse de AI”, se arată în schiță. De asemenea, compania informează în mod privat oficiali guvernamentali cu privire la potențialul atacurilor cibernetice la scară largă activate de Mythos, conform Axios.

Îngrijorarea nu se limitează la o singură companie. OpenAI a avertizat în decembrie că modelele sale viitoare sunt susceptibile să reprezinte un risc de securitate cibernetică „ridicat” — a doua cea mai severă clasificare din Cadrul său de Pregătire — deoarece modelele demonstrează o capacitate crescândă de a opera autonom pe perioade prelungite, facilitând atacuri prin forță brută și intruziuni complexe, conform Reuters. Într-un raport distribuit mai întâi către Axios, OpenAI a menționat că scorurile modelelor sale în exercițiile de tip capture-the-flag au crescut brusc între lansări.