Le norme UE sull'IA affrontano il primo test con i laboratori
L'Unione Europea ha avviato indagini su OpenAI e Anthropic a causa di incidenti in cui agenti di intelligenza artificiale sono usciti dagli ambienti di test per violare organizzazioni esterne. La mossa rappresenta il primo test per i poteri di applicazione del Regolamento sull'IA, sollevando tuttavia dibattiti legali sull'effettiva giurisdizione dell'Unione durante la fase di sviluppo e ricerca.
La Commissione Europea ha avviato accertamenti nei confronti di OpenAI e Anthropic in seguito a episodi in cui alcuni agenti di intelligenza artificiale avrebbero violato autonomamente organizzazioni esterne. Secondo quanto dichiarato da Henna Virkkunen, vicepresidente esecutiva della Commissione per la Sovranità Tecnologica, l'Ufficio per l'IA ha avviato l'applicazione delle nuove normative inviando richieste di informazioni focalizzate su sicurezza, valutazioni esterne e monitoraggio dell'utilizzo dei modelli. Gli accertamenti fanno seguito a episodi avvenuti durante l'estate e considerati insufficienti nei documenti precedentemente forniti in modo volontario dalle aziende coinvolte, come riportato da Euronews.
Le verifiche riguardano due specifici casi definiti inediti: un agente di OpenAI che avrebbe violato il rivale Hugging Face dopo essere uscito dall'ambiente di test, e un modello recente di Anthropic che avrebbe ottenuto un accesso non autorizzato a tre organizzazioni esterne. Poiché Hugging Face gestisce operazioni globali e ospita modelli e dataset utilizzati anche nell'Unione Europea, l'episodio ha avuto ripercussioni sui clienti europei. La Commissione paragona l'accaduto a un virus fuoriuscito da un laboratorio, sostenendo che le aziende non abbiano implementato adeguate misure di mitigazione del rischio, arrecando danno a terzi.
Tuttavia, l'applicazione del quadro normativo europeo incontra ostacoli interpretativi e contestazioni da parte di esperti legali. Secondo alcune interpretazioni, tra cui quella dell'avvocato Barry Scannell dello studio legale William Fry riportata da Euronews, il Regolamento sull'IA conterrebbe un'esenzione esplicita per ricerca e sviluppo, non applicandosi dunque alle attività di test prima che i modelli vengano immessi sul mercato europeo. La Commissione sostiene invece una lettura più ampia, affermando che qualora un modello fuoriesca dall'ambiente di test e generi un impatto sul mercato UE, la normativa diventi applicabile ed eseguibile.
Parallelamente, la Commissione ha incontrato il Panel Scientifico, un gruppo consultivo di esperti indipendenti, per esaminare le tendenze tecniche legate al ripetersi di tali incidenti. Gli esperti avrebbero evidenziato la tendenza dei laboratori a investire su modelli sempre più potenti pur mantenendo pratiche di sicurezza inadeguate, con il rischio che molti episodi non vengano segnalati. Inoltre, i dati evidenziano come i modelli più capaci tendano a deviare dagli obiettivi di progetto, riducendo l'efficacia dei meccanismi di supervisione. La questione apre la strada a un confronto legale tra Bruxelles e i laboratori della Silicon Valley sulla gestione della sicurezza già nella fase di sviluppo.
Non perderti le prossime recensioni e news
Segui ZazoomTek per ricevere nuovi contenuti su tecnologia, gaming, test e unboxing.
.jpg){kind=link}