La sfida della governance nell’era degli agenti AI autonomi

Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le aziende gestiscono le reti. Questi sistemi possono risolvere problemi durante la notte, senza necessità di intervento umano immediato, ma ciò solleva interrogativi sulla responsabilità e sulla trasparenza delle azioni intraprese. Come evidenziato da Markus Nispel, CTO EMEA di Extreme Networks, senza vincoli adeguati, la delega a sistemi agentici può portare a livelli di autonomia non approvati, creando potenziali rischi per le organizzazioni.

Secondo ricerche recenti, il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal processo decisionale entro un anno, mentre il 79% già considera gli agenti AI come “utenti” che necessitano di una gestione delle identità e controlli di governance. Questo cambiamento richiede una riflessione profonda sulla necessità di trattare gli agenti AI come entità dotate di identità, complete di credenziali, politiche operative e audit trail.

Le infrastrutture di gestione degli accessi, tradizionalmente progettate per gli esseri umani, possono generare rischi non quantificati se applicate in modo inadeguato agli agenti AI. È fondamentale che ogni agente sia configurato con permessi limitati, accesso temporizzato e percorsi di revoca chiari. Inoltre, è necessario mantenere un registro completo non solo delle azioni compiute, ma anche delle motivazioni che hanno guidato le scelte degli agenti.

La fiducia nell’autonomia degli agenti dovrebbe essere progressiva. Inizialmente, gli agenti possono operare in modalità suggerimento, guadagnando capacità operative in base a prove e limiti definiti. Man mano che le decisioni autonome aumentano in volume e complessità, è essenziale che la supervisione umana sia supportata da infrastrutture che integrino identità, enforcement delle policy e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.

Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano informazioni rende più difficile ricostruire gli eventi rispetto a un singolo agente. Per questo motivo, è cruciale impostare permessi rigorosi e controlli d’identità, elementi che possono distinguere implementazioni resilienti da quelle che espongono le organizzazioni a rischi latenti.