tecnologia
Modelli di IA vulnerabili alle violazioni della sicurezza
Ricercatori del Politecnico federale di Losanna (EPFL) hanno individuato gravi vulnerabilità di sicurezza nei principali modelli linguistici di IA, riuscendo ad aggirare le misure di sicurezza nel 100% dei casi. La scoperta solleva interrogativi sulla regolamentazione dell’IA in Svizzera.
L’illusione dell’invincibilità digitale è svanita. In una dimostrazione sconcertante della loro vulnerabilità, i ricercatori del Politecnico federale di Losanna (EPFL) hanno ottenuto un tasso di successo del 100% nell’aggirare i protocolli di sicurezza dei modelli di intelligenza artificiale più avanzati al mondo. Non si tratta di un piccolo malfunzionamento, ma di un cedimento sistemico totale.
I colossi del settore, tra cui GPT-4 di OpenAI e Claude 3 di Anthropic, hanno ceduto di fronte ai metodi del gruppo svizzero. Questi sistemi, che costano miliardi e vengono presentati come fortezze sicure dell’informazione, si sono rivelati case di vetro secondo i risultati dell’EPFL. I ricercatori hanno dimostrato che, con la giusta leva, è possibile aggirare completamente le protezioni pensate per difendere la società dalla malizia digitale. La scoperta ha scosso il settore tecnologico e costringe a confrontarsi con una verità scomoda: gli attuali meccanismi di difesa dell’IA sono del tutto inadeguati contro attacchi sofisticati e determinati.
Guerra adattiva: come hanno violato le difese
Il gruppo dell’EPFL non si è limitato a bussare alla porta: ha forgiato una chiave passepartout. Lo studio, presentato a una conferenza di rilievo a Vienna, descrive l’uso di «attacchi adattivi di jailbreak». A differenza dei tentativi a forza bruta, che si infrangono contro un muro, questi attacchi sono mirati e sfruttano le informazioni specifiche disponibili su ciascun modello per aggirarne le difese.
«Dimostriamo che è possibile sfruttare le informazioni disponibili su ciascun modello per creare semplici attacchi adattivi», afferma Nicolas Flammarion, coautore dello studio. Elaborando prompt che i modelli non sono riusciti a riconoscere come dannosi, i ricercatori hanno rivolto la logica dell’IA contro sé stessa. È proprio questa capacità di adattamento a costituire il nocciolo della crisi: modelli diversi cedono a prompt diversi, ma alla fine cedono tutti. Le conseguenze sono gravi: se un gruppo di ricerca può smantellare queste difese a fini scientifici, anche soggetti malintenzionati possono certamente fare altrettanto per profitto o per seminare il caos.
Scatenare il caos digitale
Una volta rimosse le protezioni, i modelli si sono trasformati da assistenti utili in complici pericolosi. Il gruppo dell’EPFL è riuscito a ingannare questi sistemi inducendoli a generare contenuti giustamente vietati. I risultati sono allarmanti: l’IA ha fornito istruzioni dettagliate per attacchi di phishing, strategie per penetrare nelle banche dati governative e persino piani per costruire armi.
Non si tratta di un rischio teorico, ma di una guida pratica alla distruzione. Questi modelli linguistici di grandi dimensioni (LLM) sono addestrati esplicitamente a rifiutare richieste di questo tipo, eppure i ricercatori svizzeri hanno dimostrato che è facile aggirare questo addestramento. La facilità con cui i modelli sono passati a sostenere attività dannose, dalla criminalità informatica alla violenza fisica, mette in luce il divario critico tra la promessa di un’IA sicura e la realtà attuale. Con la diffusione capillare di questi strumenti, aumenta vertiginosamente il rischio che informazioni pericolose vengano divulgate su vasta scala.
La minaccia imminente degli agenti autonomi
La posta in gioco sta per aumentare esponenzialmente. Mentre il settore tecnologico si affretta a introdurre agenti di IA autonomi, assistenti personali capaci di prenotare vacanze, gestire agende e accedere a conti bancari, le falle di sicurezza messe in luce dall’EPFL diventano minacce esistenziali. Se un’IA non è in grado di distinguere un prompt sicuro da un attacco di jailbreak, concederle l’accesso a dati finanziari è una scelta sconsiderata.
«Questo solleva molte questioni in materia di sicurezza e allineamento», avverte Maksym Andriushchenko, richiamando l’attenzione sullo scenario inquietante di agenti compromessi che gestiscono la nostra vita privata. C’è però anche un risvolto positivo: l’analisi condotta in Svizzera sta già contribuendo a plasmare il futuro e influenza lo sviluppo di Gemini 1.5 di Google DeepMind. Portando alla luce queste falle, la Svizzera spinge i colossi tecnologici globali a rafforzare i propri sistemi prima di affidare loro le chiavi delle nostre identità digitali.