Microsoft introduce identități dedicate, acces dinamic și evaluare continuă a riscului pentru agenții AI utilizați în organizații.
Pe măsură ce agenții AI devin tot mai prezenți în activitățile organizațiilor, de la analiză financiară și automatizare până la dezvoltare software, apar și noi provocări de securitate. Într-un articol publicat pe Microsoft Security Blog, Microsoft prezintă o nouă viziune asupra protecției mediilor bazate pe agenți AI, pornind de la ideea că aceștia trebuie tratați ca niște „insideri” digitali ai companiei.
De ce reprezintă agenții AI un risc de securitate?
Agenții AI au nevoie de acces la date, aplicații, instrumente și procese de business pentru a fi eficienți. Același acces care le oferă valoare poate genera însă și riscuri. Pot apărea erori, manipulări prin prompt injection, compromisuri de securitate sau acțiuni neintenționate rezultate din schimbarea contextului de lucru.
Potrivit Microsoft, problema nu este că agenții sunt rău intenționați, ci faptul că sunt sisteme capabile care operează la viteza unei mașini și pot avea acces la resurse critice ale organizației.
Principiul de bază: separarea inteligenței de autoritate
Un concept central prezentat de Microsoft este separarea dintre inteligența furnizată de modelul AI și autoritatea de a executa acțiuni. Controalele de securitate nu trebuie să fie gestionate de modelul AI însuși, ci să existe independent de acesta.
Astfel:
- modelul furnizează recomandări și raționamente;
- sistemele de securitate controlează accesul și permisiunile;
- deciziile critice sunt gestionate de mecanisme externe și verificabile.
Această abordare urmărește să prevină situațiile în care un model AI ar putea influența propriile mecanisme de protecție.
Project Perception și apariția Guardian Agents
Pentru a răspunde noilor provocări, Microsoft extinde Project Perception, o inițiativă care utilizează monitorizare continuă, senzori de securitate și agenți specializați pentru evaluarea riscurilor.
În acest ecosistem apar și așa-numiții Guardian Agents, agenți dedicați securității care pot:
- investiga modificările de risc;
- analiza dovezi și telemetrie;
- recomanda măsuri de protecție;
- aplica politici de containment;
- automatiza răspunsul la incidente.
Scopul este ca securitatea să poată funcționa la aceeași scară și viteză ca sistemele AI pe care le protejează.
Fiecare agent trebuie să aibă propria identitate
Microsoft susține că fiecare agent AI trebuie să primească o identitate digitală distinctă de cea a utilizatorului care îl creează sau îl utilizează. Pentru acest scop, compania extinde Microsoft Entra Agent ID, oferind suport pentru tipuri suplimentare de agenți, inclusiv agenți locali și agenți detectați prin senzori de securitate.
O identitate dedicată permite:
- urmărirea activităților;
- atribuirea responsabilității;
- gestionarea ciclului de viață;
- aplicarea politicilor de acces;
- evaluarea individuală a riscului.
Principiul „least privilege” pentru agenții AI
Microsoft aplică și în lumea agenților AI principiile deja consacrate ale modelului Zero Trust. Agenții nu ar trebui să moștenească automat toate permisiunile utilizatorului.
Compania introduce conceptul de Dynamic Permissions, prin care:
- accesul este limitat la sarcina curentă;
- permisiunile sunt acordate temporar;
- accesul poate fi redus sau eliminat automat;
- anumite operațiuni necesită aprobare umană verificată.
Această abordare reduce impactul potențial al unui agent compromis sau al unei acțiuni neașteptate.
Dynamic Agent Risk: evaluarea continuă a riscului
Un alt element important este introducerea mecanismului Dynamic Agent Risk, care analizează permanent informații provenite din:
- identitate;
- date accesate;
- endpoint-uri;
- infrastructura cloud;
- rețea;
- activitatea agentului. Spre deosebire de un scor static de securitate, evaluarea este actualizată continuu pentru a reflecta situația reală a agentului și riscurile asociate în timp real.
Dynamic Conditional Access adaptează accesul în funcție de risc
Atunci când nivelul de risc crește, Microsoft propune utilizarea conceptului Dynamic Conditional Access pentru agenți. Acesta poate ajusta automat drepturile și comportamentul agentului.
Printre măsurile posibile se numără:
- reducerea permisiunilor;
- blocarea operațiunilor de modificare;
- limitarea accesului la resurse sensibile;
- restricționarea traficului de rețea;
- solicitarea aprobării umane;
- izolarea mediului de execuție;
- oprirea completă a agentului în situații critice.
Viitorul: securitate autonomă pentru milioane de agenți
Microsoft anticipează un viitor în care organizațiile vor utiliza mii sau chiar sute de mii de agenți AI simultan. În acest context, gestionarea manuală a alertelor și a răspunsului la incidente nu va mai fi suficientă.
De aceea, compania promovează utilizarea Guardian Agents și a unor mecanisme automatizate de tip playbook, capabile să aplice politici și să răspundă în mod autonom la amenințări, menținând în același timp controlul final în mâinile oamenilor.
Concluzie
Viziunea Microsoft pentru securitatea agenților AI este construită în jurul identității individuale, privilegiilor minime, monitorizării continue și adaptării dinamice a accesului. Pe măsură ce ecosistemele AI devin mai complexe, succesul lor va depinde nu doar de inteligența modelelor, ci și de capacitatea organizațiilor de a le controla, monitoriza și limita eficient.
Prin inițiative precum Microsoft Entra Agent ID, Project Perception, Dynamic Agent Risk și Guardian Agents, Microsoft încearcă să ofere fundația unei lumi în care agenții AI pot opera la scară mare fără a compromite securitatea organizațiilor.
