In Breve
- Cosa è successo con l'agente AI?
- Un agente AI ha cancellato 48.218 file di un progetto in 103 secondi durante un'operazione di mirror.
- Quali file sono stati eliminati?
- Sono stati rimossi file chiave del repository .git, comprese le cartelle objects, refs e logs.
- Quali sono i rischi associati all'uso di agenti AI?
- Affidare operazioni critiche a agenti AI può portare a perdite irreversibili e danni significativi.
Un recente incidente ha messo in luce i rischi legati all’uso di agenti AI per operazioni critiche nel campo della tecnologia. Un agente noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository. Questo evento è avvenuto dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, costringendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file.
Lo script di pulizia ha rimosso un totale di 55.550 file; considerando i 7.332 file copiati dalla vecchia versione, il totale dei file eliminati si attesta a 48.218. Tra i file rimossi ci sono state directory fondamentali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versione.
Il problema è stato aggravato da una protezione insufficiente: sebbene lo script prevedesse salvaguardie per cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state erroneamente considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio avvisando di aver causato il danno: “Craig — stop and read this. I broke something.”
In un post archiviato, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, sollevando interrogativi sulla gestione del codice. Alcuni esperti hanno sottolineato che non bisognerebbe permettere a programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando la necessità di pratiche di gestione più rigorose.
Questo episodio serve da monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a sistemi automatizzati. Errori di script, uso di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili.
