NewsAI preview
Național 413 cuvinte

Satya Nadella cere frână de urgență pentru sistemele AI

Satya Nadella a cerut ca sistemele avansate de inteligență artificială să includă izolare, controale independente și o frână de urgență controlată de oameni.

Satya Nadella, președintele și directorul executiv al Microsoft, a cerut ca sistemele avansate de inteligență artificială să fie construite cu măsuri de izolare, controale independente și o frână de urgență controlată de oameni. Potrivit Bursa, solicitarea a fost făcută sâmbătă, în mediul online.

Publicația relatează că mesajul a fost transmis printr-o postare pe platforma X, unde Nadella a spus că modelele nedeterministe ar trebui înconjurate de un design de sistem determinist și puternic, cu controale umane și proceduri de operare fiabile. Bursa consemnează și că el a cerut standarde la nivel de industrie acolo unde regulile existente sunt insuficiente.

În aceeași postare, șeful Microsoft a susținut că sistemele AI ar trebui proiectate în jurul unor principii de observabilitate. Potrivit Bursa, printre acestea se numără diversitatea modelelor, o amprentă lizibilă pentru oameni a acțiunilor modelului, testarea continuă a sistemului, controale independente, auditabilitate, izolare și dezvăluirea incidentelor.

Publicația mai notează că Nadella a descris tratarea modelelor de frontieră cu ponderi închise și deschise ca pe niște riscuri interne drept o modalitate de a construi un astfel de sistem. El a adăugat, conform Bursa, că cel mai demn de încredere sistem de Super Inteligență nu va fi cel în care avem cea mai mare încredere, ci acela care ne permite să avem cea mai mică încredere în model.

Articolul Bursa plasează declarațiile în contextul avertismentelor lansate de mai mulți lideri și cercetători din tehnologie. Sunt menționați Bill Gates, cofondatorul Microsoft, Dario Amodei, directorul executiv al Anthropic, Sam Altman, directorul executiv al OpenAI, și Elon Musk, directorul executiv al SpaceX.

Tot potrivit Bursa, un cercetător de la Anthropic a demisionat luna trecută, acuzând compania și rivalul OpenAI că „pariază cu viețile noastre”. Publicația mai amintește că un responsabil pentru siguranța AI din cadrul Anthropic a afirmat ulterior că există o șansă mai mare de 10% ca tehnologia să „ucidă toți oamenii” în următorul deceniu.

În același context, Bursa notează că Donald Trump a respins în repetate rânduri riscurile de extincție cauzate de AI, punând accent pe competiția cu China. Publicația mai spune că administrația americană a introdus recent o structură numită „Forța AI”, condusă de Jay Clayton, cu scopul de a sprijini dezvoltarea industriei și de a elimina actorii rău intenționați.

Pentru publicul din România, tema rămâne relevantă prin felul în care regulile de siguranță pentru AI pot influența produsele și serviciile digitale folosite pe piața locală. În acest caz, însă, Bursa redă doar poziția exprimată de Nadella într-o postare online, nu o decizie oficială a Microsoft.