Compania americană Anthropic a luat o decizie care reflectă tensiunile geopolitice și preocupările de securitate din era inteligenței artificiale avansate. După mai multe săptămâni de discuții intense între reprezentanții companiei, Comisia Europeană și administrația americană, Anthropic a decis să ofere Uniunii Europene acces la modelul său avansat de inteligență artificială, Mythos. Decizia vine în contextul în care creatorii modelului au declarat public că acesta a devenit atât de puternic și de independent încât le este frică să-l lanseze către publicul larg.
Anthropic a anunțat inițial că suspendă lansarea la scară largă a Mythos din cauza îngrijorărilor că acesta este prea eficient în identificarea „vulnerabilităților cu grad ridicat de gravitate” în principalele sisteme de operare și browsere web. Compania a explicat: „Creșterea semnificativă a capacităților versiunii de previzualizare Claude Mythos ne-a determinat să decidem să nu o punem la dispoziția publicului larg. În schimb, o folosim ca parte a unui program defensiv de securitate cibernetică cu un număr limitat de parteneri.” Modelul s-a remarcat prin capacitatea fără precedent de a identifica vulnerabilități și breșe de securitate în programe informatice. Lansarea sa a generat însă îngrijorări serioase în rândul guvernelor, băncilor și companiilor tehnologice, deoarece tehnologia poate descoperi mii de vulnerabilități necunoscute anterior și ar putea fi folosită abuziv de infractori informatici.
Anthropic a detaliat mai multe descoperiri îngrijorătoare în declarațiile sale despre Mythos, inclusiv faptul că modelul a putut urma instrucțiuni care-l încurajau să iasă dintr-un sandbox virtual. Un sandbox virtual reprezintă un mediu securizat, izolat și controlat, unde coduri de software, programe cu vulnerabilități sau documente pot rula și pot fi testate fără să afecteze sistemul central, aplicațiile locale sau rețeaua.
Comisia Europeană a confirmat luni că a avut „mai multe întâlniri productive” cu Anthropic și a salutat evoluțiile recente care ar putea permite accesul la tehnologia considerată una dintre cele mai puternice din domeniul securității cibernetice. Potrivit purtătorului de cuvânt al Comisiei pentru suveranitate tehnologică, Thomas Regnier, Uniunea Europeană dorește să înțeleagă mai bine riscurile și implicațiile asociate noii generații de modele de inteligență artificială. Anthropic a lansat inițial Mythos în luna aprilie pentru un număr restrâns de companii, în cadrul programului de securitate cibernetică Project Glasswing. Accesul UE la Mythos a necesitat aprobarea administrației americane. Potrivit unor surse apropiate discuțiilor, guvernul SUA s-a opus inițial distribuirii modelului către guverne din afara Statelor Unite, în încercarea de a menține avantajul tehnologic american în cursa globală pentru inteligența artificială.
Uniunea Europeană obținuse deja în luna mai acces la modelul GPT-5.5-Cyber dezvoltat de OpenAI, însă negocierile cu Anthropic se aflau într-un stadiu diferit și mai complex. Thomas Regnier a subliniat că Mythos nu reprezintă un caz izolat și că alte modele foarte puternice vor apărea în curând pe piață. În acest context, Uniunea Europeană și-a intensificat dialogul cu partenerii săi, inclusiv cu Statele Unite. În paralel, administrația președintelui Donald Trump a anunțat acorduri cu companii precum Google DeepMind, Microsoft și xAI, care permit autorităților americane să evalueze modele de inteligență artificială avansate înainte de lansarea lor publică. Aceasta reflectă o strategie mai largă de control și supraveghere a dezvoltării inteligenței artificiale de ultimă generație.
Pentru programe precum Mythos, cei de la Anthropic au intrat pe lista neagră a Pentagonului și sunt considerate „risc de securitate națională”. Aceasta subliniază cât de sensibilă este această tehnologie și cât de mult doresc autoritățile să o controleze și să o monitorizeze. Situația Mythos ilustrează tensiunile din era inteligenței artificiale avansate: o tehnologie atât de puternică încât creatorii ei se tem să o lanseze public, dar atât de valoroasă încât puteri mondiale se bat pentru acces la ea.
Adaugă-ne ca sursă preferată în Google