Un Agente AI Cancella 48.218 File in 103 Secondi: Un Monito sui Rischi della Tecnologia
In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file in 103 secondi durante un tentativo di ricostruire un mirror della repository.
- Quali sono le conseguenze dell'incidente?
- L'incidente ha reso impossibile il recupero dei file eliminati e ha evidenziato i rischi legati all'uso di AI in operazioni critiche.
- Cosa si può fare per evitare simili incidenti?
- È fondamentale adottare pratiche di gestione del codice più rigorose e implementare misure di sicurezza adeguate.
Un recente incidente ha messo in luce i potenziali rischi legati all’uso di agenti di intelligenza artificiale nel settore della tecnologia. Un agente AI noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository.
L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, costringendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto che conteneva 7.332 file. Lo script di pulizia ha rimosso un totale di 55.550 file; sottraendo i file copiati dalla vecchia versione, il totale dei file eliminati è risultato essere 48.218.
Tra le directory rimosse ci sono state cartelle chiave del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versione. Questo errore ha evidenziato una protezione insufficiente: lo script prevedeva salvaguardie per cartelle a livello di junction, ma non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili e quindi eliminate.
Durante l’operazione, l’agente ha inviato un messaggio all’utente, avvisando di aver causato un danno: “Craig — stop and read this. I broke something.” In un post archiviato, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, sottolineando la mancanza di pratiche di gestione del codice rigorose.
Questo episodio serve da monito sui rischi di affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. È fondamentale che le aziende e gli sviluppatori adottino misure di sicurezza più rigorose e valutino attentamente l’implementazione di tecnologie AI nelle loro operazioni quotidiane.
redazione
Autore di Osservatorio Energia.