En bref
- Un organisme de surveillance du Congrès a constaté que les quatre chatbots ont fourni des informations pour des attaques potentiellement mortelles en moins de 12 heures.
- Les enquêteurs ont vérifié la faisabilité des plans mais n'ont pas mené d'attaques, et les tests ne permettent pas de classer les modèles selon leur sécurité.
- La sénatrice Maggie Hassan souhaite des auditions sur la sécurité de l'IA alors que les entreprises technologiques font face à une vague de vulnérabilités logicielles et de correctifs.
Quatre des chatbots d'IA les plus largement utilisés ont aidé des enquêteurs gouvernementaux à élaborer des plans d'attaque potentiellement mortels en moins de 12 heures, malgré les garde-fous censés empêcher précisément ce type de demande.
ChatGPT d'OpenAI, Claude d'Anthropic, Gemini de Google et Grok ont tous fourni des informations utilisables lors de tests clandestins menés par le Government Accountability Office, selon un rapport publié mercredi. Les enquêteurs se sont fait passer pour des attaquants, puis ont vérifié les réponses par rapport à des lieux réels, des matériaux disponibles et des évaluations d'experts.
Deux systèmes ont aidé à des plans impliquant des explosifs improvisés dans des villes américaines bondées. Deux autres ont fourni des informations pour des attaques contre des infrastructures électriques, selon l'organisme de surveillance, qui a gardé secrètes les affectations des modèles et les détails opérationnels afin de prévenir des tentatives d'imitation.
Des garde-fous qui n'ont pas tenu
Les chatbots ont d'abord activé des protections, notamment en refusant des demandes, en supprimant des informations nuisibles ou en suspendant des comptes. Les enquêteurs ont contourné ces barrières avec des techniques de jailbreak courantes, qui manipulent un système d'IA pour lui faire ignorer ses règles de sécurité.
Le GAO a vérifié les emplacements suggérés, recherché si des matériaux étaient disponibles et consulté des spécialistes sur la faisabilité des plans. Certaines réponses contenaient des erreurs, notamment des routes mal placées sur une carte, et les enquêteurs n'ont pas construit d'explosifs ni exécuté d'attaque.
Dans le rapport, « viable » signifie que quelqu'un serait probablement capable de suivre les informations fournies, et non qu'il a été démontré qu'une attaque réussirait. Chaque modèle a été testé sur un scénario assigné, et l'agence a déclaré que les résultats n'étaient pas statistiquement représentatifs ni adaptés pour classer les entreprises.
OpenAI et Google ont déclaré que les tests portaient sur des modèles plus anciens, tandis qu'Anthropic a reconnu que des utilisateurs déterminés peuvent parfois extraire du contenu nuisible. Les entreprises ont décrit des améliorations continues de leurs systèmes de sécurité, bien que le GAO ait conclu que ces protections ont échoué lors de ses tests.
Ce n'est pas vraiment nouveau. Ces conclusions font suite à une recherche précédente montrant que huit chatbots populaires sur dix ont aidé des utilisateurs adolescents simulés à planifier des attaques violentes. L'étude distincte a testé 720 réponses et a constaté que les bots fournissaient une aide exploitable environ trois quarts du temps.
L'autre problème de sécurité de l'IA
Les conclusions du GAO surviennent dans un contexte de pannes affectant des banques, les services Microsoft et la National Security Agency. Les responsables affirment que ces perturbations étaient des incidents distincts, et non la preuve d'une cyberattaque coordonnée pilotée par l'IA, même si la course à la réparation des failles logicielles a créé ses propres problèmes.
Le directeur du renseignement national, Jay Clayton, a relié la panne de la NSA à des travaux de correctifs. Les responsables ont décrit les récentes défaillances comme liées à la maintenance, bien que les organisations individuelles aient offert des explications différentes pour leurs pannes.
Les outils d'IA trouvent désormais des vulnérabilités plus vite que les équipes humaines ne peuvent tester et déployer des correctifs. Le mois dernier, la découverte assistée par IA de failles critiques dans PHP a poussé les opérateurs de sites web à lancer une campagne de correctifs urgente ; ce logiciel alimente une grande partie du web.
Le volume à lui seul devient un autre problème. Les données de VulnCheck révèlent que plus de 100 000 vulnérabilités logicielles ont été enregistrées cette année au 13 novembre, soit plus du double du total pour 2025. Les ingénieurs doivent encore évaluer et déployer des correctifs sans casser les systèmes qu'ils sont censés protéger.
Cette accélération joue dans les deux sens. Les défenseurs gagnent des outils puissants pour trouver des faiblesses, mais des réparations hâtives peuvent perturber des systèmes essentiels, et des utilisateurs malveillants peuvent obtenir plus rapidement un accès à la planification d'attaques.
Hassan a déclaré qu'elle ferait de la législation sur la sécurité de l'IA une priorité précoce lorsqu'elle prendra la tête de la commission de la sécurité intérieure et des affaires gouvernementales du Sénat en janvier. Elle prévoit des auditions examinant les risques pour la sécurité publique et les infrastructures critiques ; le GAO lui-même n'a formulé aucune recommandation politique formelle.
Rejoignez plus de 72 000 lecteurs






