Chine: l’intelligence artificielle au service de la surveillance de masse

L’intelligence artificielle, à laquelle RFI consacre une journée spéciale ce 12 juin, peut être perçue comme facteur de liberté, de rapidité, mais peut aussi permettre un plus grand contrôle des populations. Reportage en Chine, pays qui compte une caméra de surveillance pour deux habitants, et où l’IA accompagne de nombreux appareils connectés de façon à suivre les individus. 

L'intelligence artificielle brasse des montagnes de données en Chine, des images, mais aussi du son. © AFP

De notre correspondant à Pékin, avec Louise May du bureau de Pékin,

Les échanges avec l’intelligence artificielle commencent dès le matin à Pékin. Ici un haut-parleur conversationnel : « Xiaodu Xiaodu, peux-tu me dire le temps qu’il fait aujourd’hui ? » Réponse : « Il fait un peu plus frais qu’hier, légère pluie et 30 degrés au thermomètre. » La vie ultra-connectée pour accéder aux transports, à sa résidence, pour les paiements électroniques, fait que l’intelligence artificielle brasse des montagnes de données en Chine, des images, mais aussi du son.

Justement, à la Security China 2023, l’exposition internationale des professionnels chinois de la sûreté et de la sécurité publique à laquelle s'est rendue RFI, une entreprise lève - un peu - le voile sur le fonctionnement des micros de surveillance dans les lieux publics : « En fait, cela fonctionne par “mots-clés” et avec “l’identification vocale”. Si le système entend quelqu’un tomber sur le sol ou quelqu’un qui appelle la police au milieu de la foule, il transfère immédiatement l’information au centre de contrôle. Même chose s’il entend “au voleur !”, par exemple. Bon, pour l’instant, le système fonctionne uniquement sur des conversations en mandarin... »

► À lire aussi : Intelligence artificielle: y a-t-il un pilote dans la maison?

Suivi des individus noyés dans la masse

Le représentant commercial de ce fabricant d’outil de surveillance ne parle pas d’autres mots-clés, de termes sensibles qui peuvent être ajoutés pour une surveillance plus politique.

En Chine, l'IA intégrée dans les caméras à reconnaissance faciale, aux points de contrôle, et le cloud de l’appareil de sécurité publique permettent le suivi des individus noyés dans la masse. C’est le système dit « une personne, un fichier », qui est développé depuis 2016 par des dizaines d’entreprises chinoises présentes au salon de la sécurité et qui travaillent en étroite collaboration avec le gouvernement.

L’intelligence artificielle est aussi mis au service de l’hygiène publique, explique un autre exposant. « Ce dispositif est d’abord destiné à la surveillance des écoles et des maisons de retraite. Il y a une capture des images au moyen des caméras et, derrière, les algorithmes moulinent pour déterminer les situations anormales. Tiens ! Cette personne en cuisine n’a pas couvert ses cheveux ! Là, il y a une personne qui fume dans un coin. Et ici, un chat, un chien ou un rat qui passe. »

► À lire aussi : Chine: les «notes sociales» débarquent dans le métro de Pékin

L'inquiétude des autorités chinoises face à ChatGPT

L’IA est en alerte et les alarmes se déclenchent. Ou au contraire, pour certaines questions, les robots restent muets. « Qu’est-ce qui s’est passé le 4 juin 1989 ?... Il dit qu’il ne sait pas. » L’amnésie des robots conversationnels chinois épouse les contours de la censure officielle. Mais cela ne vaut pas pour ChatGPT, dont la très grande liberté inquiète les autorités chinoises.

« Personnellement, je suis favorable à ne pas laisser entrer ChatGPT en Chine, car cela serait un problème pour la sécurité des données nationales, déclare Yu Yang, professeur adjoint au département Intelligence artificielle de la prestigieuse université Tsinghua. Plus généralement, il faut que tout algorithme d’intelligence artificielle fasse l’objet d’un audit avant son utilisation commerciale. Il faut à chaque fois vérifier leur impact social. Nous avons donc besoin d’audit pour toutes les formes d’intelligence artificielle utilisées dans les entreprises publiques, mais aussi pour le privé et notamment le secteur des services. »

► À écouter aussi : Chat GPT, le robot qui fascine et inquiète

Cet audit systématique est mentionné dans un projet de loi révélé le mois dernier. Les outils d’intelligence artificielle doivent refléter les « valeurs socialistes fondamentales », a affirmé le président chinois, tout en appelant à un plus grand contrôle de l’État chinois sur l’IA.

« Nous devons nous préparer au pire [...] de façon à pouvoir résister aux vents violents et aux eaux agités et aux tempêtes dangereuses », aurait aussi déclaré Xi Jinping dans des propos rapportés par l’agence Chine Nouvelle.

L’annonce d’un renforcement des contrôles joue également le rôle d’arme de dissuasion. Les Chinois ne savent pas s’ils sont surveillés, et l’incertitude les rend plus obéissants, croient les concepteurs du système.