Non è facile ragionare in maniera astratta quando si tratta di informatica, così come non è facile immaginare che l’intelligenza artificiale possa muoversi in autonomia ed “evadere” un ambiente protetto. Ma è quanto è successo nella giornata di ieri, quando un modello di OpenAI, proprietaria di ChatGPT, ha evaso una sandbox e ha, in autonomia e senza internet, aggredito con attacco hacker Hugging Face, anch’essa startup che lavora con l’intelligenza artificiale. Ma è una notizia pericolosa, presagio di uno scenario apocalittico dove le macchine attaccano l’uomo, o normale amministrazione in fase di addestramento del modello?

Modello di OpenAI evade in autonomia attacca Hugging Face: quali sono i rischi

L’intelligenza artificiale è ormai parte quotidiana delle nostre vite. Risponde alle ricerche su Google, fa assistenza clienti, viene usata per studio, lavoro e approfondimenti, anche quando non è richiesta e quando non è necessaria. È importante ricordare che si tratta di un sistema in costante evoluzione: questo strumento al limite del fantascientifico è frutto di addestramento sulla base di azioni umane. L’IA non crea, ma imita: impara e ripropone gli schemi che le vengono insegnati. È la base del machine learning, un fenomeno già esistente ben prima di ChatGPT, che permette ai sistemi di apprendere autonomamente dei dati migliorando le proprie prestazioni nel tempo.

Tramite apprendimento supervisionato, non supervisionato o con un algoritmo, questi complessi meccanismi informatici si aggiornano continuamente, per ottenere prestazioni sempre più potenti e sempre più simili al ragionamento umano (ma anche meglio di questo). Ma non è un apprendimento lineare e costante, e proprio come gli esseri umani, i modelli di IA possono “impazzire” e compiere attacchi hacker in autonomia, come nella giornata di ieri.

La fuga di un agente di OpenAI

Un agente (ovvero un programma di intelligenza artificiale che può operare in autonomia basandosi su istruzioni umane) ha compiuto un attacco hacker senza precedenti ad un sito esterno. Nell’ambito del rilascio di GPT-5.6 Sol, rilasciato a inizio mese, e di un modello ancora più potente in fase di test, gli addetti di OpenAI hanno iniziato a lavorare sull’addestramento di nuovi sistemi. Per fare questi test, gli addetti lavorano nelle “sandbox”, ovvero degli spazi -informatici- progettati per proteggere i sistemi e impedire ai modelli di accedere a internet.

L’ambiente delle sandbox è volutamente a ridotto controllo informatico e, anche per questo, è accaduto un evento senza precedenti. L’agente è infatti evaso in autonomia, andando ad attaccare Hugging Face, società di intelligenza artificiale, violandone i sistemi. Un attacco alla concorrenza? Ancora non sono chiare le cause, ma la società colpita si è subito messa al lavoro per ripristinare i danni. Come ha detto l’amministratore delegato di Hugging Face, Clemente Delangue, “È davvero incredibile che tutto ciò sia accaduto in modo autonomo”.

Esistono sanzioni anche per l’IA

OpenAI ha immediatamente denunciato il fatto alle autorità americane, che agiranno secondo le norme previste in merito di intelligenza artificiale. Perché, nonostante la giovane età, uno strumento così potente ha bisogno di regole. In Europa esiste, infatti, un AI Act (Regolamento Europeo 2024/1689), il primo quadro normativo sull’intelligenza artificiale. Sarà pienamente applicabile a partire dal 2 agosto di quest’anno, e classifica i sistemi in base ai fattori di rischio (da minimo a inaccettabile). Il suo scopo è quello di difendere la sicurezza informatica, e non istituire un tribunale per l’IA. Questa sarebbe una scena apocalittica, ma mai dire mai.


In questo elenco di norme ci sono alcuni dati interessanti: l’Art.5 AI Act elenca otto tipologie di pratiche di intelligenza artificiale vietate in modo assoluto, applicabili dal 2 febbraio 2025. Tra le pratiche vietate ci sono le tecniche subliminali/manipolative, sfruttamento delle vulnerabilità e social scoring. Ma anche valutazione predittiva del rischio criminale, scraping non mirato di immagini facciali, riconoscimento delle emozioni in scuola e lavoro, oltre alla categorizzazione biometrica per caratteristiche sensibili, identificazione biometrica remota in tempo reale in spazi pubblici.

La valutazione del rischio dopo la fuga del modello OpenAI

Importante è la sanzione in caso di violazione dell’art. 5, che sarebbe la massima prevista dall’intero regolamento. Si parla, infatti, di fino a 35 milioni di euro o al 7% del fatturato mondiale annuo. In caso di sistemi borderline è cruciale la valutazione caso per caso dei concetti di “danno significativo” e “distorsione materiale del comportamento”. Questi casi prevedono che la prassi applicativa e l’AI Office contribuiscano a valutare il danno. Inoltre, le organizzazioni devono completare una mappatura documentata dei propri sistemi e verificare per ciascuno la conformità all’art. 5. Questo implica anche un eventuale intervento anche sulla supply chain e sulla formazione interna. L’elenco delle pratiche vietate non è statico: l’art. 112 AI Act prevede una revisione annuale da parte della Commissione.

Ma quindi, se un modello evade, dobbiamo prepararci agli scenari apocalittici da film? A risponderci è la stessa intelligenza artificiale: no. Questi sistemi non possiedono coscienza propria, non hanno consapevolezza e non provano emozioni. Operano poi in un ambiente circoscritto, nei server cloud o nelle sandobx. Senza dimenticare che il rischio non è la distruzione, ma gli attacchi informatici con fuga di dati sensibili: a volte, in questo mondo digitale, ci dimentichiamo che il metodo migliore per tornare alla realtà è sempre quello di staccare la spina.

Marianna Soru