Anthropic a déclaré avoir mis au jour des tentatives à grande échelle de la part de laboratoires d’IA basés en Chine pour extraire les capacités de Claude grâce à une technique appelée distillation de modèles. Cette opération a eu une conséquence inattendue : certains utilisateurs chinois envoyaient sans le savoir des informations sensibles à Claude. (Image : wikimedia / Software: Anthropic PBCScreenshot: VulcanSphere / Domaine public)
Selon un nouveau rapport de renseignement sur les menaces, des entreprises chinoises d’intelligence artificielle ont secrètement acheminé des millions d’interactions d’utilisateurs via Claude d’Anthropic afin d’améliorer leurs propres modèles : exposant ainsi, dans certains cas, des informations sensibles appartenant à l’armée, la police et des entreprises chinoises à la société américaine spécialisée en IA.
Anthropic a déclaré que son enquête avait mis au jour des tentatives à grande échelle de la part de laboratoires d’IA basés en Chine pour extraire les capacités de Claude grâce à une technique appelée distillation de modèles. Cette opération a eu une conséquence inattendue : certains utilisateurs chinois, croyant communiquer uniquement avec des systèmes d’IA nationaux, envoyaient sans le savoir des informations sensibles à Claude.
Parmi les données qui auraient été exposées figurent des enregistrements de surveillance liés à un utilisateur soupçonné d’être affilié à l’Armée populaire de libération chinoise, des identifiants internes de grandes entreprises chinoises, des informations provenant d’un bureau municipal de la sécurité publique et des documents sensibles liés à une agence gouvernementale russe.
Ces conclusions ont été publiées dans le rapport de renseignement sur les menaces d’Anthropic, daté du 10 septembre. Ce rapport examine les utilisations malveillantes ou non autorisées de Claude détectées au cours des huit mois précédents.
Reuters a rapporté séparément qu’Anthropic accusait sept laboratoires d’IA basés en Chine, dont Alibaba, Moonshot AI, DeepSeek et Xiaomi, d’avoir tenté d’extraire des fonctionnalités de Claude.
Des utilisateurs chinois auraient transmis des données sensibles à Claude à leur insu
L’un des cas les plus frappants concerne Moonshot AI, développeur du chatbot Kimi, très populaire.
Anthropic a déclaré que Moonshot « transférait parfois discrètement les requêtes clients vers Claude » au lieu de les traiter intégralement via Kimi. Sur une période de dix jours, Anthropic a indiqué que près de 300 000 requêtes clients avaient transité par un réseau de plus de 5 000 comptes, provenant pour la plupart de Singapour et du Japon.
Anthropic a précisé que ces échanges avaient ensuite servi à entraîner les modèles de Moonshot. De mai à juillet, l’entreprise a attribué plus de 23 millions d’échanges avec Claude à des activités d’extraction de données liées à Moonshot. Certaines de ces informations étaient extrêmement sensibles.
Dans un cas précis, un utilisateur, identifié par Anthropic comme probablement affilié à l’Armée populaire de libération (APL), a téléchargé des informations de surveillance en croyant utiliser Kimi. Il souhaitait que l’IA détermine si une personne sous surveillance avait un comportement anormal.
Selon Anthropic, les données provenaient de centaines de caméras à Chengdu, notamment de caméras situées à l’extérieur des installations de l’APL, d’institutions affiliées au géant public de l’électronique de défense China Electronics Technology Group Corporation et d’une importante entreprise publique.
Un autre ingénieur a utilisé Kimi lors du développement d’un système interne pour une grande entreprise publique chinoise et y a saisi du code source interne ainsi que des identifiants actifs de plusieurs grandes entreprises chinoises.
Anthropic a déclaré que l’ingénieur « n’avait aucun moyen de savoir » que ses interactions étaient transmises à Claude.
DeepSeek aurait utilisé des méthodes similaires. Selon Anthropic, DeepSeek acheminait discrètement certaines requêtes d’utilisateurs vers Claude Opus et tentait d’extraire les traces de raisonnement de Claude à des fins d’entraînement.
Un employé du secteur technologique chinois a involontairement divulgué des documents contenant les spécifications complètes, la structure organisationnelle et les objectifs stratégiques d’un important programme d’IA, a indiqué Anthropic.
Un autre cas concernait un opérateur informatique travaillant avec des informations provenant d’une agence gouvernementale russe liée au ministère de la Défense. Les requêtes auraient exposé des identifiants actifs d’une base de données du gouvernement russe.
En Chine, des ingénieurs développant un système de gestion des dossiers pour un bureau municipal de la sécurité publique ont utilisé DeepSeek pour créer un outil reliant les numéros d’identification nationaux des citoyens à leurs déplacements et à leurs antécédents judiciaires. Anthropic a indiqué que ces interactions étaient également acheminées vers Claude.
Anthropic a estimé que DeepSeek avait généré plus de 12,1 millions d’échanges de ce type en seulement 14 jours en juillet. Reuters a rapporté qu’Anthropic a décrit cette opération d’envergure comme s’inscrivant dans le cadre des efforts de plus en plus sophistiqués déployés par les laboratoires d’IA chinois pour copier les capacités des principaux modèles américains.
Claude d’Anthropic était utilisé pour modéliser des attaques contre Taïwan et surveiller les dissidents
Le rapport d’Anthropic détaille également des cas où des utilisateurs liés à la Chine auraient employé Claude directement à des fins militaires et de surveillance.
Un acteur basé en Chine a utilisé Claude pour développer un système de guerre électronique d’environ 16 modules, conçu pour analyser les installations radar, les batteries de missiles sol-air, les postes de commandement et les infrastructures de communication.
Anthropic indique que le logiciel calculait les zones de détection radar et l’efficacité du brouillage, et « classait les cibles par ordre de valeur et de vulnérabilité ». Il pouvait également modéliser les portées d’engagement de systèmes tels que le système de missiles Patriot de fabrication américaine et le THAAD.
En cours de développement, Anthropic précise que l’utilisateur a modifié la simulation pour se concentrer sur « 12 cibles à Taïwan ».
Ces cibles comprenaient un bunker de commandement, une installation radar d’alerte précoce, des batteries de missiles Patriot et Tien Kung de développement taïwanais, d’importantes bases aériennes et un quartier général de commandement régional. Anthropic ajoute que les informations comptables et d’autres éléments de preuve relient cet acteur à des institutions chinoises de recherche en défense et militaro-industrielle, notamment l’Académie des sciences militaires de l’Armée populaire de libération.
Reuters a rapporté qu’Anthropic avait banni les comptes associés à cette opération. La Chine revendique Taïwan comme faisant partie intégrante de son territoire et n’exclut pas le recours à la force pour placer cette île démocratiquement gouvernée sous le contrôle de Pékin. Taïwan rejette cette revendication de souveraineté.
D’autres utilisateurs liés à la Chine auraient utilisé Claude pour mener une surveillance politique et religieuse.
Anthropic a déclaré qu’une opération visait à surveiller des dissidents, les communautés chinoises d’outre-mer, les Ouïghours, les Tibétains, des personnalités politiques taïwanaises, des militants syndicaux et étudiants, ainsi que des médias étrangers. Le système traitait des informations occidentales et taïwanaises, leur attribuait des scores de sensibilité politique et les transformait en notes de renseignement standardisées, semblables à celles du gouvernement.
Une autre opération collectait des renseignements sur des cardinaux catholiques, des responsables chrétiens taïwanais, des groupes bouddhistes tibétains, des pratiquants de Falun Gong et les médias qui leur sont affiliés. Anthropic a indiqué que les utilisateurs avaient demandé à Claude de produire des dossiers structurés et des rapports de renseignement utilisant une terminologie propre aux services de sécurité d’État chinois.
Le rapport, plus complet, décrit également des tentatives à travers le monde d’utiliser Claude dans des recherches biologiques susceptibles de contribuer au développement d’armes, ainsi que des travaux impliquant des missiles, des drones armés, des armes à feu et d’autres systèmes d’armement. Anthropic a déclaré avoir bloqué les comptes associés à ces activités et avoir utilisé les informations recueillies pour renforcer ses mesures de sécurité.
Le ministère chinois des Affaires étrangères a indiqué à Reuters ne pas être au courant du rapport d’Anthropic. Il a affirmé que Pékin estime que l’IA doit être « développée à des fins bénéfiques » et s’oppose à toute « distorsion des faits et à toute diffamation » à l’encontre de la Chine.
Les allégations d’Anthropic n’ont pas encore été intégralement vérifiées de manière indépendante. Toutefois, le rapport met en lumière un problème de sécurité inhabituel pour les organisations chinoises utilisant des plateformes d’IA nationales : les tentatives de développeurs chinois de s’inspirer de modèles américains avancés pourraient, dans certains cas, avoir entraîné la fuite d’informations sensibles de leurs propres utilisateurs, franchissant ainsi les frontières technologiques et géopolitiques que ces plateformes étaient censées éviter.
Pour améliorer votre expérience, nous (et nos partenaires) stockons et/ou accédons à des informations sur votre terminal (cookie ou équivalent) avec votre accord pour tous nos sites et applications, sur vos terminaux connectés.
