La Riflessione sull’Autorità Digitale nell’Era degli Agenti AI

Negli ultimi anni, l’emergere di agenti di intelligenza artificiale (AI) che gestiscono transazioni e compiti amministrativi ha messo in discussione il tradizionale modello di fiducia digitale. Questo modello si basa sull’assunto che dietro ogni accesso ci sia un essere umano, ma con l’adozione crescente di AI, è fondamentale rivedere le modalità di autenticazione e verifica dell’identità.

Tradizionalmente, i sistemi di autenticazione si concentrano sulla conferma delle credenziali di chi richiede un’azione, senza considerare chi ha effettivamente autorizzato tale azione e con quali limiti. La distinzione tra autenticazione, identità e autorità diventa quindi cruciale. Non basta più sapere chi sta accedendo a un sistema; è essenziale comprendere chi ha dato il via all’azione, cosa può fare e per quanto tempo.

In ambito aziendale, già da tempo si applicano controlli di ruolo ed eleggibilità, specialmente nei settori dei servizi finanziari e della sanità. Tuttavia, l’infrastruttura attuale è più avanzata nella verifica dell’identità rispetto all’applicazione delle deleghe di autorità. Per affrontare queste sfide, è necessario adottare il principio del minimo privilegio: agli agenti devono essere assegnate mandate specifiche e limitate, evitando accessi permanenti estesi. Un agente compromesso, infatti, può causare danni significativi.

Per ogni azione svolta da un agente AI, è fondamentale rispondere a cinque domande chiave: chi o cosa agisce, chi ha autorizzato l’azione, cosa può fare, sotto quali vincoli e se l’autorità è ancora valida. Questo approccio si basa su modelli di delega “on-behalf-of” già presenti negli standard di identità.

Strumenti come i portafogli digitali possono ospitare mandati verificabili meccanicamente, che possono essere revocati e affiancati alle credenziali verificate di persone o organizzazioni. È quindi cruciale estendere le autorità e i framework esistenti, incluso il quadro di fiducia per i servizi di verifica digitale, rafforzato dal Data (Use and Access) Act nel Regno Unito, per includere anche i delegati software.

In conclusione, spostare la verifica dell’autorità prima che l’agente agisca, documentare chi concede i poteri e limitarne l’ambito sono misure essenziali per ridurre l’esposizione ai rischi. Solo così sarà possibile garantire che le implementazioni di agenti AI non superino i controlli progettati per governarle.