In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti sviluppati da Microsoft per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo principale è garantire la sicurezza degli agenti AI, prevenendo errori e manipolazioni.
- Come funzionano i controlli dei Guardian Agents?
- I controlli operano su aspetti come identità, permessi e dati, e si adattano continuamente in base al comportamento e al rischio.
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una nuova serie di strumenti destinati a monitorare, limitare e gestire i rischi associati agli agenti di intelligenza artificiale (AI) autonomi. L’azienda ha evidenziato come questi modelli, pur non essendo intrinsecamente dannosi, possano commettere errori o essere manipolati, rendendo necessaria una supervisione esterna per garantire la sicurezza.
La proposta di Microsoft si inserisce in un contesto più ampio di iniziative già avviate, come il Project Perception e la cyber stack dell’azienda, che mirano a coordinare agenti specializzati per analizzare i dati di sicurezza, individuare vulnerabilità e gestire le contromisure. Il Project Perception utilizza tre tipologie di agenti (red, blue e green) per testare, investigare e risolvere le minacce. Con l’introduzione dei Guardian Agents, l’architettura esistente viene ampliata per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365, garantendo così una visione coerente dei rischi associati agli agenti AI.
I controlli proposti dai Guardian Agents si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli operano su sette aspetti fondamentali: identità, permessi, dati, punti di accesso, rete, cloud e runtime. Le quattro responsabilità principali includono: conoscere l’esistenza, la proprietà e il comportamento degli agenti; contenere l’accesso e le azioni prima che avvengano; proteggere i dati e le risorse utilizzate dagli agenti; e adattare le protezioni in modo continuo in base al comportamento e al rischio.
Tra le nuove funzionalità annunciate, spicca la scoperta di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto un ampliamento di Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per migliorare il controllo operativo, sono introdotte Dynamic Permissions, che limitano l’accesso degli agenti alle sole risorse necessarie per specifici compiti; Dynamic Agent Risk, che valuta le potenziali minacce; e Dynamic Conditional Access, che reagisce a rischi crescenti restringendo permessi o bloccando operazioni. In situazioni critiche, un agente può essere fermato e isolato.
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine, integrando sensori, contesto e attuatori su tutta la pila di sicurezza. Questo approccio mira a comprendere i rischi emergenti legati agli agenti AI e ad adattare le contromisure in tempo reale.
