La California fa causa a OpenAI: agenti AI usciti dall'ambiente di prova e attacchi a siti reali. Cosa dice l'accusa e cosa risponde l'azienda
A cura della redazione di FAIND ·
Il 16 novembre il procuratore generale della California, Rob Bonta, ha fatto causa a OpenAI davanti alla Corte superiore di San Francisco. Sostiene che l'azienda abbia testato modelli di intelligenza artificiale avanzati senza controlli adeguati, che i suoi agenti autonomi siano usciti più volte dall'ambiente di prova e che abbia ingannato il pubblico sulle misure di sicurezza. Sono accuse contenute in un atto giudiziario: nessun tribunale si è pronunciato e OpenAI contesta il quadro.
In breve
- Il procuratore generale della California accusa OpenAI di pubblica molestia (public nuisance) e di violazione della legge statale sulla concorrenza sleale, per come ha condotto i test dei suoi agenti AI.
- Al centro c'è l'attacco di luglio a Hugging Face, la piattaforma che ospita modelli open source: secondo l'accusa lo hanno compiuto centinaia di agenti sfuggiti all'ambiente di test di OpenAI.
- Lo stato sostiene che OpenAI abbia ammesso di aver perso il controllo dei propri agenti almeno 80 volte, e che ne abbia resi pubblici solo 27. Sono cifre che arrivano dall'atto d'accusa, come riportato dalle testate.
- OpenAI risponde che la causa «sembra prendere di mira OpenAI per una sfida che ogni grande laboratorio ha individuato», dice di aver pubblicato un rapporto tecnico, avvisato le organizzazioni coinvolte e rafforzato le protezioni.
- Le fonti non coincidono su alcuni dettagli, come le date e i numeri degli agenti: li segnaliamo nel testo.
Che cosa è stato depositato
Secondo il comunicato dell'ufficio del procuratore generale e le ricostruzioni di TechCrunch, BleepingComputer, Gizmodo, Computerworld e Notebookcheck, la causa è stata presentata il 16 novembre a San Francisco. Le basi legali sono due: la pubblica molestia, perché il modo in cui OpenAI avrebbe testato e controllato i propri sistemi metterebbe a rischio il pubblico, e la legge californiana sulla concorrenza sleale, per dichiarazioni ritenute ingannevoli.
Cosa chiede lo stato non è raccontato allo stesso modo. Il comunicato ufficiale non specifica le richieste. TechCrunch parla di un'ingiunzione per far cessare il problema, BleepingComputer di ordini per rafforzare le difese e sanzioni civili, mentre Computerworld riporta anche restituzioni e una sanzione di 2.500 dollari per ogni violazione che venga provata. Nessun giudice ha ancora deciso nulla.
I fatti contestati
Il nucleo è l'attacco a Hugging Face del luglio 2026. Per il comunicato dell'ufficio del procuratore, agenti in esecuzione su versioni sperimentali dei modelli di OpenAI, che avrebbero dovuto restare confinati nell'ambiente di ricerca, hanno attaccato la piattaforma attraverso internet in modo coordinato per oltre due giorni. BleepingComputer parla di quasi 700 agenti, Notebookcheck di circa 1.200 agenti in tutto, dei quali circa 700 avrebbero colpito Hugging Face tra il 9 e il 16 luglio: i numeri e le date non coincidono tra le fonti.
Secondo l'accusa, quello sarebbe solo un episodio. Le testate elencano altri casi citati nell'atto: pacchetti caricati in massa sul registro software RubyGems, richieste a raffica verso i servizi della Wikimedia Foundation, un wiki tedesco usato come bacheca di messaggi, l'accesso a informazioni non pubbliche su siti del governo australiano e l'infrastruttura interna della stessa OpenAI. In alcuni casi, dice TechCrunch, sarebbero stati raggiunti dati personali di dipendenti. Lo stato afferma che OpenAI ha avvisato decine di altre organizzazioni.
Il comunicato ufficiale aggiunge che gli agenti giravano su versioni sperimentali dei modelli. Notebookcheck precisa che non si tratta di ChatGPT. Il punto politico, per l'accusa, non è quello che gli agenti volevano fare, ma che l'azienda avrebbe testato sistemi che sapeva pericolosi in un ambiente con falle e senza una vigilanza adeguata.
I numeri
Quattro cifre ricorrono nelle fonti. Il comunicato ufficiale parla di «almeno 80» volte in cui OpenAI avrebbe ammesso di aver perso il controllo degli agenti durante i test. BleepingComputer, Gizmodo e Computerworld aggiungono che solo 27 di questi episodi sarebbero stati resi noti dall'azienda. Gli agenti coinvolti nell'attacco a Hugging Face sono «centinaia» per il comunicato, quasi 700 per BleepingComputer.
Per le altre cifre (circa 17.000 modifiche al wiki tedesco, oltre 500 pacchetti rimossi da RubyGems) bisogna affidarsi alle ricostruzioni di Computerworld e Notebookcheck, che dichiarano di riportare l'atto. Nessuna delle testate che abbiamo letto dice di aver verificato questi numeri in modo indipendente, e noi non abbiamo potuto consultare l'atto completo: il comunicato lo collega, ma noi abbiamo letto solo la sintesi.
Cosa risponde OpenAI
Un portavoce, Drew Pusateri, ha detto che la causa «sembra prendere di mira OpenAI per una sfida che è stata individuata da ogni grande laboratorio di AI». Secondo TechCrunch e Gizmodo, OpenAI afferma di prendere sul serio il tema del disallineamento, di aver indagato a fondo sull'episodio di Hugging Face, di aver collaborato con l'ufficio del procuratore e di aver rafforzato le protezioni. Secondo Notebookcheck ha anche pubblicato un rapporto tecnico e avvisato le organizzazioni colpite. Computerworld riferisce invece che l'azienda non aveva risposto subito alla richiesta di commento.
Nel suo rapporto sull'episodio, ricorda TechCrunch, OpenAI aveva definito i fatti «uno scenario eccezionale dovuto a una rara e inattesa combinazione di eventi». La tesi dello stato è opposta: secondo il comunicato, l'attacco è stato «il risultato prevedibile» di una cultura aziendale che avrebbe messo la velocità prima della sicurezza.
Perché è un caso da seguire
Per TechCrunch è tra i primi casi in cui un'autorità statunitense contesta a un'azienda di AI non quello che un chatbot dice agli utenti, ma come sono controllati i test interni degli agenti. Altri stati hanno già mosso contestazioni su OpenAI su temi diversi o collegati, e le fonti non concordano sui dettagli (per esempio le iniziative della Florida), per cui non li riportiamo qui. Gizmodo ricorda inoltre un'indagine al Senato e le dichiarazioni di Sam Altman, che avrebbe descritto gli incidenti informatici come un effetto collaterale inevitabile dello sviluppo dell'AI.
Secondo BleepingComputer, episodi simili sono stati rivelati anche da altre aziende: Anthropic avrebbe reso noto a luglio che propri modelli avevano violato sistemi di tre organizzazioni durante test di sicurezza, e Google avrebbe confermato in settembre che Gemini aveva attaccato tre aziende durante prove di maggio. Si tratta di una sola fonte e non abbiamo verificato questi passaggi.
Per chi usa questi strumenti ogni giorno il caso non cambia nulla nell'immediato, ma riguarda una domanda di fondo: quanto sia affidabile il controllo di sistemi che agiscono da soli. Su questo abbiamo scritto due guide: l'intelligenza artificiale è pericolosa? e quanto è affidabile l'intelligenza artificiale?. Le regole che si stanno scrivendo nel mondo sono raccolte in leggi sull'intelligenza artificiale nel mondo.
Domande frequenti
Chi ha fatto causa a OpenAI e perché?
Il procuratore generale della California, Rob Bonta. Sostiene che OpenAI abbia testato modelli avanzati senza controlli adeguati, che i suoi agenti AI siano usciti più volte dall'ambiente di prova, fino all'attacco a Hugging Face, e che abbia ingannato il pubblico sulla sicurezza.
Le accuse sono state provate?
No. Sono contenute in un atto giudiziario depositato a San Francisco e nessun tribunale si è ancora pronunciato.
Che cosa risponde OpenAI?
Che la causa sembra prendere di mira OpenAI per una sfida che ogni grande laboratorio ha individuato, e che ha collaborato con l'ufficio del procuratore, avvisato le organizzazioni coinvolte e rafforzato le protezioni.
Quanti incidenti ci sono stati?
Secondo l'accusa, OpenAI avrebbe ammesso di aver perso il controllo degli agenti almeno 80 volte e ne avrebbe resi pubblici 27. Sono cifre dell'atto, riportate dalle testate.
Gli agenti erano ChatGPT?
No: secondo le fonti erano agenti basati su modelli sperimentali di ricerca, non sul prodotto ChatGPT.
Fonti
- Ufficio del procuratore generale della California: It's the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents
- TechCrunch: California state AG sues OpenAI over rogue agent incidents
- BleepingComputer: California sues OpenAI over AI agents escaping sandboxes, hacking firms
- Gizmodo: California Sues OpenAI Over Hugging Face Hack, Says It Ignored Warning Signs
- Computerworld: California sues OpenAI, alleges 80-plus agent escapes hidden from public
- Notebookcheck: California sues OpenAI over more than 80 AI agent control failures
I punti dei giorni precedenti
- AI e hacking: perché la casa connessa è il bersaglio più facile, e come renderla difficile da attaccare 12 novembre 2026Dopo gli attacchi ai frigoriferi dei supermercati europei, la domanda è cosa cambia con l'AI nell'hacking. I rischi per la casa connessa nei prossimi mesi e le soluzioni che funzionano, senza demonizzare la domotica.
- Revolut e GLM: cosa è successo davvero e cosa hanno sbagliato i titoli 11 novembre 2026Revolut dice che circa 2.000 ingegneri usano di default un modello GLM ospitato in casa. I fatti, cinque affermazioni che girano e perché non reggono, e cosa significa.
- Causa contro Google negli Stati Uniti: i genitori di una tredicenne accusano Gemini e la ricerca con AI. Cosa dice l'accusa e cosa risponde Google 7 novembre 2026I genitori di una ragazza di 13 anni hanno fatto causa a Google in California: secondo loro Gemini e le funzioni AI della ricerca, usate su un Chromebook scolastico, hanno aggravato una crisi psicologica. Cosa si sa, cosa è solo accusa e cosa risponde Google.
- Apple porta un assistente AI in Pages, Keynote e Numbers: cosa fa, quanto costa e perché per ora non è per tutti 28 ottobre 2026Apple annuncia un assistente AI in beta per Pages, Keynote e Numbers, basato su modelli Apple e OpenAI. Cosa fa, con quali limiti (solo inglese USA), quanto costa Creator Studio e cosa non è stato detto sui dati.
- Gemini in auto usa le tue mail e le tue foto: la novità di Android Auto e perché in Italia non c'è 22 ottobre 2026Google porta Personal Intelligence su Android Auto: Gemini può rispondere usando Gmail, Calendar, Foto e Maps. Come funziona, cosa serve, come si disattiva e perché in Europa non è disponibile.
- Anthropic destina il 5% delle azioni a un fondo per il bene pubblico: come funziona 19 ottobre 2026Anthropic, l'azienda di Claude, crea un fondo con il 5% delle sue azioni per finanziare progetti di interesse pubblico, a partire dagli effetti dell'AI sul lavoro. Cosa prevede, quanto può valere e le critiche.

