Companiile trebuie să păstreze controlul asupra accesului pe care îl acordă inteligenței artificiale (AI) la sistemele lor vitale, a cerut Satya Nadella, directorul general (CEO) al Microsoft, într-o postare pe X de sâmbătă, 10 octombrie 2026. Recomandările sale includ intervenția unei persoane autorizate chiar în timpul executării unei sarcini.
Firmele nu înțeleg întotdeauna deciziile sau comportamentul unui model AI și trebuie să își protejeze sistemele, a afirmat Nadella, potrivit Business Insider. El a explicat că modelele nu sunt în mod inerent rău intenționate, însă orice tehnologie cu acces la sisteme vitale poate fi compromisă sau poate greși.
Modelul nu ar trebui să decidă singur ce poate accesa
Nadella propune ca limitele de funcționare să fie stabilite în afara modelului. Acesta nu ar trebui să poată acționa asupra mecanismelor care îi stabilesc permisiunile de acces sau acțiunile autorizate.
„Trebuie să înconjurăm modelele nedeterministe cu un proiect solid al sistemelor deterministe, controale umane și proceduri de operare fiabile și să stabilim standarde în industrie acolo unde cele existente sunt insuficiente”, a scris Satya Nadella, CEO Microsoft, în postarea de pe X.
Distincția tehnică privește comportamentul modelului, care nu produce întotdeauna același rezultat, și regulile previzibile ale sistemului construit în jurul lui.
„Tratarea modelelor avansate, cu arhitectură închisă sau cu ponderi deschise, ca pe riscuri interne este o modalitate de a construi un astfel de sistem”, a adăugat Nadella.
Principiile propuse de șeful Microsoft includ.
- Pornirea de la presupunerea că modelele sunt compromise și limitarea lor încă de la început.
- Separarea modelului de mecanismul software care îi coordonează activitatea.
- Separarea modelului de ansamblul acțiunilor pe care le poate executa, cu mecanisme de control și protecție externe.
- Informarea în timp util a părților afectate atunci când sistemele AI eșuează sau sunt compromise.
Pentru intervenția umană, Nadella a folosit o comparație: „Gândiți-vă la asta ca la o frână de urgență. O persoană autorizată ar trebui să poată oricând să întrerupă sau să oprească un model în timpul unei sarcini”, a explicat el.
Modelele mai avansate vor necesita tehnologii mai avansate de limitare, pentru care industria trebuie să stabilească standarde comune, a mai spus șeful Microsoft.
„Cel mai de încredere sistem de superinteligență nu va fi cel cu modelul în care avem cea mai mare încredere. Va fi cel care ne permite să avem cea mai puțină încredere în model”, a argumentat acesta.
Aaron Levie cere protecție pe mai multe niveluri
Aaron Levie, directorul general al Box, a răspuns pe X că inteligența artificială va trebui să treacă printr-o etapă în care încrederea nu este acordată implicit. În opinia sa, companiile vor avea nevoie de mai multe niveluri de protecție, de posibilitatea de a verifica activitatea agenților și datele cu care aceștia pot lucra, precum și de controale pentru situațiile în care apar probleme.
Levie consideră că această nevoie reprezintă și o oportunitate pentru cei care construiesc asemenea sisteme destinate companiilor.
Incidentele de securitate au precedat apelul lui Nadella
În iulie 2026, Anthropic a anunțat că identificase trei incidente în care un model Claude accesase internetul și pătrunsese în sisteme fără autorizare. În septembrie, premierul australian Anthony Albanese a declarat că un agent OpenAI ar fi accesat neautorizat un site guvernamental în vara acelui an.
Tot în septembrie, Dario Amodei, directorul general al Anthropic, a cerut încetinirea dezvoltării inteligenței artificiale. Postarea sa de pe blog a primit sprijinul lui Sam Altman, directorul general al OpenAI, și al lui Elon Musk, directorul general al SpaceXAI.
Administrația Trump a susținut dezvoltarea rapidă a AI și s-a opus reglementării industriei. În octombrie, senatorii Josh Hawley și Chris Murphy au propus o lege cu sprijin din ambele partide, prin care dezvoltatorii și operatorii de agenți AI să poată fi trași la răspundere pentru incidente de hacking, adică pătrunderi neautorizate în sisteme informatice.
