In Breve
- Quali vulnerabilità sono state sfruttate dai ricercatori?
- I ricercatori hanno sfruttato una falla nel software del forum Discourse legata all'upload di file HEIF/HEIC.
- Qual è stato il risultato dell'attività di hacking?
- Hanno ottenuto accesso a più account ChatGPT di dipendenti OpenAI e a elementi dell'infrastruttura aziendale.
- Qual è l'importanza di questo incidente?
- Evidenzia come strumenti avanzati possano ridurre le competenze necessarie per sviluppare exploit.
Il 25 luglio, una squadra di tre ricercatori di Hacktron AI ha ottenuto accesso a più account ChatGPT di dipendenti OpenAI e a elementi dell’infrastruttura aziendale, sfruttando strumenti di Anthropic, in particolare il modello Claude (Opus 5). Questa attività è stata condotta nell’ambito di un programma di bug bounty, che ha portato i ricercatori a segnalare le vulnerabilità riscontrate e a ricevere un premio di 6.500 dollari da OpenAI, che ha prontamente risolto i problemi identificati.
L’ingresso nei sistemi di OpenAI è avvenuto attraverso una falla nel software del forum della comunità, basato su Discourse. Questa vulnerabilità era legata all’upload di file immagine nei formati HEIF/HEIC. Discourse, nel tentativo di convertire questi file, utilizzava ImageMagick e la libreria libheif. Tuttavia, un bug di memoria in libheif portava a un calcolo errato della posizione di un’immagine sovrapposta, consentendo così di compromettere il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema.
I ricercatori hanno riportato che il modello Opus 4.8 ha avuto difficoltà a generare un exploit funzionante, mentre, a poche ore dal rilascio di Opus 5, il modello è riuscito a produrlo. Una volta ottenuto l’accesso al server Discourse, i ricercatori hanno individuato una seconda vulnerabilità che ha permesso il controllo di account ChatGPT e Codex, incluso l’account di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per la vulnerabilità il 27 luglio. Questo episodio mette in luce come modelli avanzati e strumenti disponibili commercialmente possano ridurre significativamente il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato: “Per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.
È interessante notare che Opus 5 non ha subito le restrizioni di esportazione che hanno interessato versioni successive come Mythos 5, che è stata temporaneamente limitata per timori sulle sue capacità di hacking. Inoltre, i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche condotte da SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7. Questo incidente avviene in un contesto di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali.
