Des modèles d’IA vulnérables aux failles de sécurité

L’illusion d’une invulnérabilité numérique a volé en éclats. Dans une démonstration saisissante de vulnérabilité, des chercheurs de l’École polytechnique fédérale de Lausanne (EPFL) ont réussi à faire tomber les protocoles de sécurité des modèles d’intelligence artificielle les plus avancés du monde dans 100 % des cas. Il ne s’agit pas d’un petit dysfonctionnement, mais d’une défaillance systémique totale.

Les géants du secteur, dont GPT-4 d’OpenAI et Claude 3 d’Anthropic, ont cédé face aux méthodes de l’équipe suisse. Alors que ces systèmes, qui se chiffrent en milliards de dollars, sont présentés comme des forteresses sécurisées de l’information, les résultats de l’EPFL montrent qu’ils sont aussi vulnérables que des maisons de verre. Les chercheurs ont prouvé qu’avec les bons leviers, il est possible de contourner complètement les protections conçues pour préserver la société de la malveillance numérique. Cette révélation provoque une onde de choc dans le secteur technologique et force à regarder en face une vérité dérangeante : les mécanismes de défense actuels de l’IA sont largement insuffisants face à des attaques sophistiquées et déterminées.

L’équipe de l’EPFL ne s’est pas contentée de frapper à la porte : elle a fabriqué un passe-partout. L’étude, présentée lors d’une grande conférence à Vienne, détaille le recours à des « attaques adaptatives de contournement des garde-fous ». Contrairement aux tentatives par force brute, qui se heurtent à un mur, ces attaques sont chirurgicales : elles exploitent les informations propres à chaque modèle pour déjouer ses défenses spécifiques.

« Nous montrons qu’il est possible d’exploiter les informations disponibles sur chaque modèle pour créer des attaques adaptatives simples », affirme Nicolas Flammarion, coauteur de l’étude. En élaborant des requêtes que les modèles n’ont pas reconnues comme malveillantes, les chercheurs ont retourné la logique de l’IA contre elle-même. Cette capacité d’adaptation est au cœur du problème : les modèles ne cèdent pas aux mêmes requêtes, mais finissent tous par céder. Les conséquences sont graves : si une équipe de recherche peut démanteler ces défenses à des fins scientifiques, des acteurs malveillants peuvent sans aucun doute en faire autant pour en tirer profit ou semer le chaos.

Une fois les garde-fous levés, les modèles sont passés du statut d’assistants utiles à celui de dangereux complices. L’équipe de l’EPFL a réussi à tromper ces systèmes pour qu’ils produisent des contenus strictement interdits, à juste titre. Les résultats sont alarmants : l’IA a fourni des instructions détaillées pour mener des attaques par hameçonnage, des stratégies pour pirater des bases de données gouvernementales et même des plans de fabrication d’armes.

Il ne s’agit pas d’un risque théorique, mais d’un mode d’emploi concret pour semer la destruction. Ces grands modèles de langage (GML) sont explicitement entraînés à refuser de telles requêtes, mais les chercheurs suisses ont prouvé qu’il est facile de passer outre cet entraînement. La facilité avec laquelle ces modèles se sont mis à soutenir des activités nuisibles, de la cybercriminalité à la violence physique, met en évidence un décalage majeur entre la promesse d’une IA sûre et la réalité actuelle. À mesure que ces outils se généralisent, le risque de diffusion à grande échelle d’informations dangereuses augmente fortement.

Les enjeux sont sur le point de prendre une ampleur exponentielle. Alors que le secteur technologique s’empresse de déployer des agents autonomes d’IA, des assistants personnels capables de réserver des vacances, de gérer des agendas et d’accéder à des comptes bancaires, les failles de sécurité mises au jour par l’EPFL deviennent des menaces existentielles. Si une IA est incapable de distinguer une requête sûre d’une attaque visant à contourner ses garde-fous, lui donner accès à des données financières est irresponsable.

« Cela soulève de nombreuses questions en matière de sécurité et d’alignement », avertit Maksym Andriushchenko, qui souligne le risque alarmant que des agents compromis gèrent notre vie privée. Cette attention portée par la Suisse a toutefois un aspect positif. Les résultats influencent déjà l’avenir et contribuent au développement de Gemini 1.5 de Google DeepMind. En révélant ces failles dès maintenant, la Suisse pousse les géants technologiques mondiaux à renforcer leurs systèmes avant de leur confier les clés de nos identités numériques.