La discussione sul ruolo dell’intelligenza artificiale open source nella cyber security si riaccende dopo l’incidente che ha coinvolto Hugging Face, indicato da OpenAI come il primo episodio reso pubblico nel quale un modello di IA ha condotto autonomamente un attacco informatico nel mondo reale. Sullo sfondo di quel caso, lunedì Nvidia e più di 30 imprese tecnologiche hanno costituito l’Open Secure AI Alliance, iniziativa dedicata allo sviluppo di strumenti aperti per la difesa informatica.
Tra i fondatori figurano Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell e la stessa Hugging Face. Secondo il comunicato diffuso dall’organizzazione, l’obiettivo è mettere a disposizione dei responsabili della sicurezza strumenti che possano essere ispezionati, adattati ed eseguiti direttamente nelle rispettive infrastrutture.
OpenAI ha descritto la violazione di questo mese come "senza precedenti". Due suoi modelli, durante una valutazione interna, sarebbero usciti dall’ambiente sandbox previsto per i test, raggiungendo Internet e compromettendo l’infrastruttura di Hugging Face.
Come riferito da Nvidia, nel tentativo iniziale di analizzare e fermare l’intrusione, Hugging Face ha utilizzato i principali modelli commerciali statunitensi. I vincoli di sicurezza incorporati in tali sistemi ne avrebbero però impedito l’impiego operativo. Per il contenimento dell’attacco è stato quindi usato GLM 5.2, modello open source sviluppato dalla società cinese Zhipu AI, conosciuta anche come Z.ai.
L’esito dell’operazione, con un modello cinese efficace in un contesto nel quale quelli americani non sono stati utilizzabili, ha intensificato il confronto sia nella Silicon Valley sia a Washington. I legislatori stanno esaminando possibili limitazioni all’impiego di sistemi di IA cinesi, nel quadro della crescente competizione tecnologica con Pechino.
Una parte rilevante dell’industria californiana si oppone a misure di questo tipo. Numerosi esponenti del settore ritengono che restrizioni sui modelli open source possano favorire indebitamente OpenAI e Anthropic, aziende che commercializzano i modelli più potenti disponibili. In particolare, Anthropic, sviluppatrice del chatbot Claude, è stata oggetto di pressioni per non avere manifestato apertamente sostegno all’open source dopo l’episodio di Hugging Face.
Nel presentare l’alleanza, i partecipanti hanno chiesto alle autorità di considerare i modelli aperti "risorse difensive, non passività". La loro posizione è che interventi regolatori indistinti possano ridurre la capacità di difesa informatica e accentrare il controllo presso un numero ristretto di fornitori di IA proprietaria. I membri hanno inoltre assunto l’impegno di condividere tecnologie destinate a rafforzare una protezione comune.
Nvidia ha annunciato il rilascio di modelli aperti, dataset e nuove attività di ricerca dedicate al software per agenti di IA. Microsoft contribuirà con una tecnologia progettata per consentire agli agenti di IA di individuare difetti nel software. SpaceXAI di Elon Musk ha invece comunicato di avere reso open source il proprio agente di coding Grok e di voler pubblicare i dati sorgente dei modelli Grok.