Microsoft lancia Guardian Agents: strumenti per la sicurezza degli agenti AI

Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti innovativi pensati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. L’azienda ha messo in evidenza che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Pertanto, è fondamentale non considerarli come unica autorità di sicurezza.

Per affrontare queste problematiche, Microsoft propone di separare la fornitura di intelligenza dall’autorità che controlla l’accesso e le azioni degli agenti, affidando la sorveglianza continua a meccanismi esterni al modello stesso. Questa iniziativa si inserisce in un contesto più ampio di evoluzione delle strategie di sicurezza informatica già avviate dall’azienda, come il Project Perception e la cyber stack di Microsoft.

Il Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere le minacce. Ora, l’architettura di questo progetto viene estesa per includere i Guardian Agents, i quali sono progettati per proteggere gli “agentic insiders” attraverso la condivisione di segnali, contesto e un registro unificato con Microsoft Agent 365, offrendo così una visione coerente di agenti e rischi.

I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli si applicano a sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le quattro responsabilità principali di questi controlli sono:

• Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
• Contenere l’accesso e le azioni prima che avvengano;
• Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
• Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.

Tra le funzionalità annunciate, si evidenzia la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID verrà ampliato con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.

Per quanto riguarda il controllo operativo, sono previste Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che reagisce a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.

Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine, integrando sensori, contesto e attuatori su tutta la pila di sicurezza. Questo approccio mira a comprendere i rischi emergenti degli agenti AI e ad adattare le contromisure in tempo reale.