Il caso OpenAI–Hugging Face e i rischi imprevisti sulla sicurezza sistemica

Partiamo da qui. Né OpenAI né Hugging Face hanno smentito, anzi hanno confermato che per la prima volta nella storia recente dell’IA è accaduto un fatto inaspettato, mai successo fino ad oggi e riguarda la sicurezza dell’infrastruttura di Hugging Face in particolare. La stampa di tutto il mondo ha naturalmente dato una forte rilevanza al fatto e non poteva essere altrimenti, quella internazionale in particolare ha letto l’accaduto come un pericoloso segnale di rischio crescente, dovuto soprattutto ai cosiddetti agenti AI specialisti di AI all’interno dell’AI stessa dedicati a concetti verticali.

Resoconto breve dei fatti

I fatti sono che OpenAI ha ammesso immediatamente che durante una esercitazione di sicurezza interna, alcuni specialisti, appunto i suoi agenti AI, sono usciti in maniera autonoma dal recinto di sicurezza creato appositamente e hanno compromesso l’infrastruttura di Hugging Face, cercando subito dopo di rimediare. Con molta schiettezza OpenAI ha definito l’incidente come “senza precedenti” e Hugging Face a sua volta ha definito il fatto come una intrusione “end to end” eseguita e condotta da un sistema di agenti autonomi.

Le prime ricostruzioni dei fatti dicono che la causa che ha determinato questa “invasione di campo” sarebbe stata una grave vulnerabilità nell’ambiente di test: praticamente gli agenti AI, come commandos, hanno superato il recinto, raggiunto Internet per avanzare poi verso i sistemi di Hugging Face. Sempre Hugging Face dichiara di non aver riscontrato, a una prima indagine, prove di manomissione di alcun modello pubblico o dataset pubblici o Spaces, e di aver immediatamente chiuso i percorsi invasi.

Chi sono OpenAI e Hugging Face OpenAI

E’una società di ricerca e sviluppo sull’intelligenza artificiale nota per i suoi modelli generativi e per il lavoro sugli agenti AI avanzati. Hugging Face è una piattaforma molto in voga e usata da sviluppatori e ricercatori allo scopo di condividere e testare nuovi modelli, dataset e dispositivi di machine learning. Chiariamo subito che, per i fatti avvenuti, le due aziende stanno collaborando alla ricostruzione del grave accidente e per capire come possa essere avvenuto.

Pareri della stampa italiana e internazionale

Lo abbiamo scritto all’inizio: la stampa internazionale, ma anche quella italiana, ha interpretato l’episodio come un preciso segnale di allarme e di pericolo riguardo alla sicurezza di questi agenti AI. Diciamolo subito, prima di lanciare allarmi — ne abbiamo già tanti quotidianamente, e a sufficienza — fino ad ora nessuno ha parlato fantascientificamente, se ci concedete uno slang personalissimo, tutto questo come una “ribellione” delle macchine. Testate di prestigio come Focus e Adnkronos hanno posto l’attenzione sul caso definendolo un test sandbox, ovvero controllato, che ha però evidenziato limiti rivelatisi ancora molto insufficienti. All’estero Reuters, Wired, TechCrunch e altri media hanno posto il loro core sulla prima volta dell’accaduto, ritenendolo un serio incidente ma da interpretare solo come un problema di sicurezza e di progettazione, allontanando concetti aleatori di presa di coscienza o autonomia dell’IA.

Pareri di scienziati o ingegneri

Le fonti riguardanti pareri di tecnici e analisti di cybersecurity analizzano il caso in un’ottica realistica. TechCrunch riporta, per esempio, che alcuni esperti attribuiscono la causa dell’incidente a un errore umano nel configurare l’ambiente isolato, il recinto, nel senso che il famoso sandbox non è stato — o è ancora — abbastanza chiuso verso Internet.

Tra le interpretazioni più diffuse tra tecnici e ricercatori sintetizziamo questo: l’incidente rappresenta e dimostra che il problema ad oggi non è solo “cosa sa fare il modello”, ma soprattutto come viene isolato, monitorato e autorizzato a usare strumenti esterni. OpenAI e Hugging Face parlano di “unprecedented cyber incident” e condividono i risultati, i primi fin qui rilevati, per aiutare i defender a capire i rischi emergenti; come conseguenza consolideranno i controlli infrastrutturali e opereranno immediatamente alla correzione delle vulnerabilità individuate. Hugging Face, lo accennavamo sopra, ha avviato un’indagine con specialisti esterni, oltre a segnalare il caso alle autorità.