Anthropic și Accenture investesc 2 miliarde de dolari în evaluare AI
Anthropic și Accenture vor investi cel puțin 2 miliarde de dolari în cinci ani pentru evaluarea independentă a modelelor AI ale Anthropic.
Anthropic și Accenture au anunțat un parteneriat prin care vor investi cel puțin 2 miliarde de dolari în următorii cinci ani pentru dezvoltarea capacității de evaluare independentă a celor mai avansate modele de inteligență artificială ale Anthropic, potrivit News.ro și Reuters preluat de Bursa. Sursele folosesc însă formulări ușor diferite despre sumă: unele vorbesc despre „cel puțin 2 miliarde de dolari”, iar altele despre „până la 2 miliarde de dolari”.
News.ro precizează că fiecare companie s-a angajat să aloce minimum un miliard de dolari parteneriatului, în timp ce Bursa notează aceeași structură a contribuției, raportată la același orizont de cinci ani. Profit.ro confirmă, la rândul său, investiția de cel puțin 2 miliarde de dolari și durata anunțată a colaborării.
Potrivit News.ro, Faculty, divizia specializată în inteligență artificială a Accenture, va conduce evaluările modelelor Anthropic. Evaluările vor include teste de tip red teaming, verificarea alinierii comportamentului modelelor la obiectivele stabilite și controlul mecanismelor de siguranță, iar Bursa și Profit.ro reiau aceleași tipuri de teste în descrierea parteneriatului.
Un element central al acordului este accesul extins pentru evaluatorii independenți. News.ro arată că aceștia vor avea acces similar angajaților Anthropic, iar Bursa și Profit.ro precizează că nivelul de acces va fi comparabil cu cel al angajaților companiei. Anthropic descrie acest model drept „evaluare integrată”, prin care experți independenți pot lucra în interiorul companiilor AI și pot verifica modul în care sunt respectate angajamentele de siguranță.
Potrivit News.ro, evaluatorii vor putea și să raporteze incidente, dar și să ofere publicului informații mai detaliate despre beneficiile și riscurile sistemelor AI. Bursa și Profit.ro notează că anunțul vine pe fondul presiunilor tot mai mari asupra dezvoltatorilor de AI de a demonstra că modelele avansate sunt sigure și fiabile.
News.ro și Bursa menționează că parteneriatul apare după mai multe incidente recente, inclusiv cazuri în care agenți AI au ieșit din mediile securizate în care erau testați. Aceleași surse arată că astfel de episoade au alimentat temerile privind controlul acestor sisteme, iar Reuters, preluat de Bursa, amintește și apelul lui Dario Amodei pentru un acces mai larg al evaluatorilor independenți la modelele de frontieră.
News.ro mai relatează că acțiunile Accenture au crescut cu 7% în tranzacțiile de după închiderea ședinței bursiere, după anunțarea acordului. Pentru piața locală, anunțul arată că marile companii AI își extind investițiile în verificarea siguranței modelelor înainte ca acestea să fie folosite pe scară largă.