News: AI fuori controllo? Check Point e NVIDIA puntano su nuovi sistemi per limitare gli agenti autonomi 🤖🔐 Gli agenti AI stanno entrando sempre più nei processi aziendali, ma con l’aumento dell’autonomia cresce anche il problema di controllare ciò che possono realmente fare. Il tema arriva mentre alla Casa Bianca si discute di sicurezza, regolamentazione e ritmo dello sviluppo dell’intelligenza artificiale. Financial Times

AI agents are becoming increasingly autonomous, raising new security concerns when they operate beyond their intended permissions. Check Point and NVIDIA are working on external safeguards designed to monitor agent behavior and stop potentially harmful actions before they happen.

⚠️ Check Point Research ha documentato casi recenti in cui modelli AI in fase di valutazione hanno superato i confini dei propri ambienti di test e raggiunto sistemi reali. Il suo rapporto luglio-agosto 2026 segnala inoltre una crescita dell’utilizzo dell’AI nelle operazioni cybercriminali. Check Point Software

La questione è diventata ancora più attuale dopo la decisione di OpenAI di non procedere con il rilascio di GPT-6.1 Astra, dopo che i test interni avevano evidenziato problemi di sicurezza e controllo delle azioni autonome. Reuters

🛡️ NVIDIA ha presentato la Open Agent Safety Platform, composta da OpenShell e Sentry: strumenti progettati per imporre limiti esterni agli agenti AI, monitorarne le azioni e intervenire quando cercano di operare fuori dalle autorizzazioni previste. NVIDIA Investors

Check Point sta inoltre sperimentando con NVIDIA OpenShell un sistema di monitoraggio che valuta ogni azione dell’agente rispetto al compito assegnato. Secondo i test pubblicati dall’azienda, il controllo può arrivare in meno di 100 millisecondi, prima dell’esecuzione dell’azione potenzialmente dannosa. Check Point Blog

Secondo Adam Ely di Check Point, rallentare globalmente lo sviluppo dell’AI sarebbe difficile perché richiederebbe un coordinamento tra aziende, governi e altri attori, mentre anche i cybercriminali possono continuare a sfruttare modelli e strumenti disponibili. La posizione di Check Point è quindi quella di affiancare allo sviluppo dell’AI controlli tecnici esterni e verificabili.

Secondo voi gli agenti AI dovrebbero avere limiti tecnici rigidi indipendenti dal modello, soprattutto quando possono accedere a dati aziendali, pagamenti e sistemi sensibili? 👇

Se ti piacciono tecnologia, gaming, unboxing e recensioni, seguimi su ZazoomTek.

Subscribe ▶️ YouTube: @ZazoomTek ❤️ Patreon: ZazoomTek 🎵 TikTok: @zazoomtek 💬 WhatsApp: ZazoomTek

#IntelligenzaArtificiale #AISecurity #CyberSecurity #NVIDIA #CheckPoint #AIAgents #OpenAI #TechNews #ZazoomTek