Photomontage représentant le ministère de la Vérité, l’un des lieux du roman de Georges Orwell 1984. (Image : wikimedia / Jordan L’Hôte / CC BY 3.0)
Dans une récente émission de la « BBC Panorama », le président Brad Smith de Microsoft a mis en garde : selon lui l’intelligence artificielle (IA) constitue une menace pour les êtres humains. Il a déclaré que si les pays n’adoptaient pas de lois pour protéger le public, la technologie pourrait s’accélérer et « il sera très difficile de rattraper son retard ».
« Je me souviens constamment des leçons de George Orwell dans son livre 1984. Vous connaissez l’histoire fondamentale… d’un gouvernement qui pouvait, en permanence, voir tout ce que tout le monde faisait, et entendre tout ce que tout le monde disait », a déclaré Brad Smith dans l’émission.
Le programme de la BBC a exploré les prouesses croissantes de la Chine en matière d’IA, y compris ses progrès dans la surveillance des personnes. La situation en Chine continentale est peut-être la plus proche d’un scénario de 1984 que le monde ait jamais vu.
En 2018, la Chine a bloqué 17,5 millions de ventes de billets d’avion et 5,5 millions de ventes de billets de train à des personnes inscrites sur la liste noire du tristement célèbre système de crédit social du pays. Le système de crédit social du Parti communiste chinois (PCC) classe les citoyens sur la base d’un large éventail de critères, y compris le comportement quotidien, les personnes avec lesquelles ils s’associent, leurs achats en ligne, etc. Sur la base des scores, les citoyens sont récompensés ou punis.
Un exposé de novembre 2019 du Consortium international des journalistes d’investigation (ICIJ) a déclaré que la police chinoise utilisait un « système de collecte et d’analyse de données qui utilise l’intelligence artificielle pour sélectionner des catégories entières de résidents du Xinjiang en vue de leur détention ». L’ICIJ a reçu un document qui détaillait un système de points de modification du comportement pour les détenus dans les camps d’internement, utilisé pour administrer les récompenses et les punitions.
Une étude récente de Comparitech a montré qu’il y a 770 millions de caméras de surveillance utilisées dans le monde, dont 54% situées en Chine. À l’exception des quatre villes de Londres, Hyderabad, Indore et Delhi, 16 des 20 villes les plus surveillées au monde se trouvent en Chine.
Un rapport de la BBC a exposé une initiative chinoise qui utilise l’IA et la reconnaissance faciale pour identifier l’état d’esprit émotionnel d’un individu. Le système a été testé sur la minorité ouïghoure du Xinjiang et affiche l’état mental d’une personne sur un graphique en camembert.
Dans une interview avec The Epoch Times, le Dr Robert J. Bunker, professeur de recherche adjoint à l’Institut d’études stratégiques de l’US Army War College, a déclaré que le système de crédit social était « beaucoup plus insidieux » que celui d’Orwell en 1984 parce qu’il représente « un énorme programme d’ingénierie sociale, un programme qui sera de plus en plus conduit par la technologie de reconnaissance faciale et l’intelligence artificielle. »
En 2018, un étudiant de la province du Zhejiang a vu son offre d’inscription à une université suspendue en raison du faible score du système de crédit social de son père. Le score du père avait baissé parce qu’il n’était pas en mesure de rembourser 200 000 yuans de dette bancaire.
Conflit d’IA entre US et Chine
BBC Panorama a également souligné la course aux armements de l’IA entre les États-Unis et la Chine. En novembre de l’année dernière, Li Yuxiao, directeur adjoint de l’Académie chinoise des études sur le cyberespace, a affirmé que la Chine avait déposé 110 000 demandes de brevet d’IA en 2019, dépassant pour la première fois les États-Unis en tant que leader mondial.
Eric Schmidt, ancien directeur général de Google et actuel président de la Commission de sécurité nationale américaine sur l’intelligence artificielle, a déclaré que les démocraties doivent gagner la bataille de l’IA ou « nous envisagerons un avenir où d’autres valeurs nous seront imposées ».
En outre, Seth Moulton, président du groupe de travail américain sur l’avenir de la défense, a demandé aux entreprises américaines de soutenir le ministère de la Défense. « Allez-vous nous aider à gagner cette course ou allez-vous essentiellement être contre nous ? La Chine n’a pas le même système de gouvernement que nous… La course aux armements de l’IA pourrait-elle conduire à un conflit avec la Chine ? Absolument », a-t-il déclaré dans le programme.
Le 5 mars 2021, le congrès national chinois a examiné le plan quinquennal du pays se terminant en 2025. Le régime communiste s’est engagé à faire de « la science et la technologie un pilier stratégique du développement national », a rapporté Epoch Times.
Sept domaines ont été classés comme essentiels à « la sécurité nationale et au développement global », dont l’intelligence artificielle. Dans une interview avec le Wall Street Journal, Alex Capri, chercheur principal à l’école de commerce de l’Université nationale de Singapour, a déclaré que « maîtriser l’IA et l’informatique permet à la Chine de récolter d’énormes avantages dans la guerre hybride et la collecte de renseignements ».
Le 1er mars la Commission nationale américaine de sécurité sur l’intelligence artificielle (NSCAI) a publié un rapport de 750 pages au Congrès, avertissant que la Chine dépasserait probablement l’Amérique au sein de la prochaine décennie dans le domaine de l’intelligence artificielle.
« Les États-Unis devraient investir ce qu’il faut pour maintenir leur leadership en matière d’innovation, utiliser l’IA de manière responsable pour défendre les peuples libres et les sociétés libres et faire avancer les frontières de la science au profit de toute l’humanité. L’IA va réorganiser le monde. L’Amérique doit mener la charge », a déclaré le rapport.
Rédacteur Nello Tinazzo
Soutenez notre média par un don ! Dès 1€ via Paypal ou carte bancaire.
