NEWS TECH: UNA VULNERABILITÀ IN CHATGPT EVIDENZIA I RISCHI DI SICUREZZA DEGLI ASSISTENTI IA

Una vulnerabilità individuata da Check Point Research ha permesso di aggirare il Lockdown Mode di ChatGPT, la modalità di sicurezza progettata per limitare l'esfiltrazione di dati attraverso tecniche di prompt injection. La ricerca, comunicata il 18 novembre 2026, evidenzia un problema che va oltre il singolo servizio: anche quando un sistema di intelligenza artificiale dispone di protezioni specifiche, una debolezza in un componente differente dell'applicazione può creare un percorso alternativo per aggirarle. OpenAI ha già rimosso le autorizzazioni della sandbox sfruttate nella dimostrazione e Check Point conferma che il metodo descritto non funziona più. I ricercatori non hanno inoltre trovato prove di uno sfruttamento della vulnerabilità in ambiente reale.

COME FUNZIONAVA LA VULNERABILITÀ DEL LOCKDOWN MODE

Il Lockdown Mode di ChatGPT è una configurazione opzionale pensata per rendere più difficile la fuoriuscita di informazioni, limitando diversi possibili canali di comunicazione verso l'esterno. Tra le restrizioni previste figurano l'accesso web in tempo reale, le immagini ospitate su Internet e le richieste di rete attraverso Canvas. La modalità disabilita inoltre funzionalità come Deep Research, Agent Mode, i connettori in tempo reale e il download dei file. Check Point Research ha però individuato un problema nella sandbox utilizzata per visualizzare le anteprime delle pagine HTML. Questo componente, separato dagli altri sistemi di protezione, conservava autorizzazioni per l'apertura di popup attraverso frame annidati, creando una possibile via alternativa per comunicare con l'esterno.

UN GPT MALEVOLO POTEVA DIVULGARE I MESSAGGI DELLA CHAT

Secondo la dimostrazione dei ricercatori, un prompt o un GPT malevolo, oppure una chat condivisa appositamente preparata, potevano potenzialmente innescare l'attacco. Nell'applicazione desktop ChatGPT basata su Electron, il comportamento dei popup poteva funzionare senza richiedere un'interazione da parte dell'utente. In questo scenario, un GPT malevolo avrebbe potuto trasmettere silenziosamente i messaggi della conversazione verso un server controllato dall'attaccante, trasformando la vulnerabilità in un potenziale caso di esfiltrazione dei dati zero-click. Il rischio riguardava quindi anche informazioni inserite normalmente durante una conversazione, che avrebbero potuto essere esposte senza che la vittima si accorgesse immediatamente dell'attività.

POPUP FALSI E POTENZIALI RISCHI PER LE CREDENZIALI

La ricerca ha evidenziato anche possibili scenari di phishing. Un popup controllato dall'attaccante poteva mantenere l'icona ufficiale di ChatGPT, mostrando contemporaneamente titoli e contenuti manipolati per simulare un aggiornamento o una schermata legittima dell'applicazione. I ricercatori hanno inoltre dimostrato un potenziale scenario di furto delle credenziali attraverso la manipolazione della finestra principale e il reindirizzamento di un utente disconnesso verso una pagina di autenticazione controllata dall'attaccante. La distribuzione di malware attraverso l'applicazione desktop presentava invece una differenza importante: non era un attacco zero-click, perché la vittima avrebbe comunque dovuto cliccare su un collegamento per scaricare un file.

OPENAI HA RIMOSSO LE AUTORIZZAZIONI SFRUTTATE

Dopo la segnalazione, OpenAI ha comunicato a Check Point Research di aver rimosso le autorizzazioni della sandbox che permettevano di utilizzare la tecnica individuata. I ricercatori hanno successivamente ripetuto i test, confermando che il metodo di sfruttamento descritto non funziona più. Check Point precisa inoltre di non aver individuato prove di attacchi reali collegati a questa vulnerabilità. La correzione rappresenta un elemento importante, ma la ricerca porta l'attenzione su un problema architetturale più ampio: la sicurezza di un assistente IA non dipende soltanto dal modello o dalle sue impostazioni protettive, ma anche da tutti i componenti software con cui interagisce.

PERCHÉ LA SICUREZZA DELL'IA NON DIPENDE SOLO DAL MODELLO

Gli assistenti basati sull'intelligenza artificiale stanno diventando piattaforme sempre più complesse, capaci di interagire con browser, applicazioni desktop, file, connettori, ambienti di esecuzione del codice e servizi esterni. Ogni componente può disporre di autorizzazioni e sistemi di protezione differenti, ma la sicurezza complessiva dipende dal modo in cui questi elementi comunicano tra loro. La vulnerabilità individuata in ChatGPT dimostra proprio questo aspetto: una restrizione applicata correttamente a un determinato livello può perdere efficacia se un'altra funzionalità offre involontariamente un percorso alternativo. Il problema diventa particolarmente rilevante in ambito aziendale, dove gli assistenti IA possono entrare in contatto con documenti riservati, informazioni interne e dati sensibili.

LE RACCOMANDAZIONI DI CHECK POINT PER LE AZIENDE

Check Point Research sottolinea che le organizzazioni non dovrebbero considerare una singola modalità sicura o soggetta a restrizioni come una protezione completa. L'adozione dell'intelligenza artificiale in azienda richiede un approccio multilivello, basato sulla visibilità dei servizi utilizzati dai dipendenti, sul controllo delle informazioni condivise con piattaforme di terze parti e sulla valutazione dell'intera architettura applicativa. È inoltre importante verificare continuamente i confini di sicurezza quando vengono introdotte nuove funzionalità e integrazioni, limitando allo stesso tempo la quantità di dati sensibili accessibili ai servizi IA. In questo modo, un'eventuale vulnerabilità di una piattaforma esterna non comporta automaticamente l'esposizione di tutte le informazioni disponibili all'utente.

IL PUNTO

La vulnerabilità segnalata da Check Point Research e successivamente corretta da OpenAI rappresenta un esempio concreto delle nuove sfide legate alla sicurezza degli assistenti IA. Il problema non riguardava direttamente il modello linguistico, ma un componente della sandbox HTML che poteva essere sfruttato per aggirare alcune restrizioni del Lockdown Mode. La lezione più importante è che proteggere un modello non significa necessariamente proteggere l'intera piattaforma che lo utilizza. Con l'evoluzione degli assistenti IA verso sistemi sempre più integrati e autonomi, la sicurezza dovrà considerare ogni elemento dell'architettura, dalle autorizzazioni ai connettori, fino agli strumenti esterni e alla gestione dei dati.

DOMANDA PER LA COMMUNITY

Ti fideresti a utilizzare un assistente IA con accesso ai tuoi documenti personali e alle informazioni di lavoro sapendo che una vulnerabilità in un componente esterno potrebbe aggirare alcune protezioni? Secondo te, le modalità di sicurezza come il Lockdown Mode dovrebbero essere accompagnate da controlli ancora più rigorosi? Rispondi sul canale Youtube!

Se ti piacciono tecnologia, gaming, unboxing e recensioni, segui ZazoomTek.