In Breve
- Quale vulnerabilità è stata sfruttata dai ricercatori?
- I ricercatori hanno sfruttato una vulnerabilità nel software del forum Discourse legata all'upload di file immagine HEIF/HEIC.
- Qual è stato il risultato dell'attività dei ricercatori?
- Hanno ottenuto accesso a più account ChatGPT di dipendenti OpenAI e ricevuto un premio di 6.500 dollari.
- Cosa evidenzia questo episodio?
- Sottolinea come strumenti avanzati possano ridurre il tempo e le competenze necessarie per sviluppare exploit.
Il 25 luglio, un gruppo di tre ricercatori di Hacktron AI ha dimostrato come le vulnerabilità nei sistemi di intelligenza artificiale possano essere sfruttate con strumenti commerciali avanzati. Utilizzando il modello Claude (Opus 5) di Anthropic, i ricercatori sono riusciti a ottenere accesso a più account ChatGPT appartenenti a dipendenti di OpenAI, nonché a elementi dell’infrastruttura aziendale.
Questa attività è stata condotta nell’ambito di un programma di bug bounty, che ha portato i ricercatori a segnalare le falle e a ricevere un premio di 6.500 dollari. OpenAI ha prontamente risolto i problemi identificati. L’accesso iniziale è avvenuto attraverso una vulnerabilità nel software del forum della comunità Discourse, legata all’upload di file immagine HEIF/HEIC.
La vulnerabilità risiedeva in un bug di memoria nella libreria libheif, utilizzata per il trattamento delle immagini. Questo errore causava un calcolo errato della posizione di un’immagine sovrapposta, compromettendo così il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema.
I ricercatori hanno notato che il modello precedente, Opus 4.8, aveva difficoltà a generare un exploit funzionante. Tuttavia, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrre un exploit efficace. Una volta ottenuto l’accesso al server Discourse, i ricercatori hanno scoperto una seconda vulnerabilità che ha consentito il controllo di account ChatGPT e Codex, incluso l’account di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio. Questo episodio mette in luce come i modelli avanzati e gli strumenti disponibili commercialmente possano ridurre significativamente il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per 200 dollari al mese, chiunque può utilizzare questi strumenti per hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavori che prima richiedevano mesi ora possono richiederne giorni”.
È interessante notare che Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di preoccupazioni sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente arriva in un momento di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali, sottolineando l’importanza di una vigilanza costante e di misure di sicurezza adeguate.
