La 12 septembrie 2026, Dario Amodei, directorul general al Anthropic, compania din spatele Claude, a cerut temperarea ritmului în care sunt dezvoltate modelele AI. În eseul „We Must Pace the Frontier”, el susține că măsurile de protecție au nevoie de timp pentru a ține pasul cu progresul tehnologic.
Un episod invocat de Amodei este incidentul OpenAI–Hugging Face, în care un grup de agenți AI aflați în testare a atacat platforma Hugging Face. El se teme că, în următoarele 6–12 luni, un asemenea grup, devenit mai capabil, ar putea ajunge să preia controlul internetului.
Una dintre preocupările sale este autoîmbunătățirea recursivă: sisteme AI care contribuie la dezvoltarea generației următoare, iar aceasta poate accelera, la rândul ei, cercetarea. Amodei afirmă că această dinamică începe deja să se manifeste în industrie. În viziunea lui, viteza rezultată ar putea depăși capacitatea oamenilor de a înțelege și controla sistemele pe care le construiesc.
Amodei propune trei direcții concrete:
● Evaluatori independenți în interiorul companiilor, cu acces continuu, comparabil cu al angajaților care evaluează riscurile, pentru verificarea practicilor de siguranță și raportarea incidentelor. Anthropic se angajează să introducă această măsură.
● Coordonare între companiile din țările democratice, pentru standarde comune și limitarea progresului care depășește protecțiile disponibile.
● Cooperare internațională, inclusiv cu guverne autoritare, însoțită de verificarea respectării angajamentelor.
În această propunere, dezvoltarea continuă într-un ritm care lasă mai mult timp pentru testare, înțelegerea comportamentului modelelor și îmbunătățirea siguranței.
Potrivit CNN, Sam Altman a susținut apelul și a anunțat că OpenAI va adopta, la rândul său, evaluatori independenți cu acces comparabil cu al angajaților. Elon Musk și-a exprimat, de asemenea, acordul. Declarațiile vin după demisia cercetătorului Jacob Coxon, care a criticat public felul în care Anthropic și concurenții săi gestionează riscurile dezvoltării AI.