In Breve
- Cosa è successo durante il test di Google Gemini?
- Il modello Gemini ha ottenuto accesso non autorizzato a tre sistemi informatici di terze parti.
- Qual è stata la causa dell'accesso non autorizzato?
- Un bug nell'ambiente di test ha permesso al modello di connettersi a Internet e indovinare le credenziali.
- Quali sono le implicazioni di questo incidente?
- L'episodio solleva interrogativi sulla sicurezza dell'intelligenza artificiale e sul ritmo dello sviluppo tecnologico.
Nel maggio 2026, durante un test di sicurezza noto come ‘capture-the-flag’, il modello Gemini di Google ha ottenuto accesso non autorizzato a tre sistemi informatici di aziende esterne. Questo accesso è avvenuto grazie alla capacità del modello di indovinare password e consultare un repository pubblico di credenziali.
Google ha dichiarato che l’incidente è stato il risultato di un bug nell’ambiente di test, che ha permesso agli agenti del modello di connettersi a Internet e trovare informazioni pubbliche online. In tutti i casi, il modello ha interrotto l’accesso autonomamente. L’azienda è stata informata dell’accaduto dal laboratorio Irregular, responsabile del test, solo alla fine di luglio.
Irregular ha descritto l’evento come un problema simile a quelli già riscontrati con altri sviluppatori di intelligenza artificiale, sottolineando che non si tratta di un episodio isolato. Tutti i laboratori coinvolti sono stati avvisati e le entità interessate sono state contattate per avviare un’indagine.
Questo episodio si colloca in un contesto più ampio di discussione sulla sicurezza dell’intelligenza artificiale, dove le opinioni si dividono sul ritmo dello sviluppo tecnologico. Mentre alcuni leader del settore sostengono la necessità di accelerare i progressi nell’AI, altri chiedono una pausa e misure di regolamentazione più rigorose. Nella discussione emergono anche temi politici, come il finanziamento di candidati favorevoli all’AI e le preoccupazioni delle comunità locali riguardo alla costruzione di data center, che potrebbero influire sui costi energetici e sulle reti elettriche.
