En Chine, des caméras IA alertent la police lorsqu'une banderole est déployée — Radio Free Asia

Une société chinoise de vidéosurveillance largement utilisée et sanctionnée par les gouvernements occidentaux intègre une technologie d'intelligence artificielle qui alerte automatiquement les autorités si une personne est détectée en train de déployer une banderole.

L'IA des caméras fabriquées par Dahua Technology semble viser explicitement à réprimer les protestations, selon IPVM, une société de recherche en surveillance basée aux États-Unis qui a signalé pour la première fois l'existence de la technologie.

Dahua a supprimé les références au système, appelé "Jinn", après que l'IPVM a demandé des commentaires à l'entreprise, mais une version archivée de son site Web traite de son utilisation à des fins de "sécurité sociale" et de "gouvernance sociale" - termes fréquemment utilisés par les autorités chinoises pour justifier la surveillance et les arrestations.

Le système de détection n'est qu'un exemple de la croissance de l'IA et des technologies de suivi du gouvernement en Chine qui ont proliféré au cours des dernières années au milieu de la pandémie de COVID-19.

Une série d'achats massifs de technologies par les forces de police à travers la Chine a considérablement accru la capacité des autorités à réprimer les libertés sociales, à contrôler les citoyens et, selon les critiques, à abuser des groupes ciblés par le gouvernement.

'Une alarme sera générée'

Selon la page Web archivée de Dahua, le système d'IA a été lancé en 2021 et disponible à partir de mai 2023.

Ses débuts semblent avoir coïncidé avec une vague d'investissements de la police dans les systèmes d'information géographique à travers la Chine en 2020.

On ne sait pas quelles juridictions policières utilisent cette IA Dahua particulière, mais la société est un fournisseur majeur de technologie policière, a déclaré Charles Rollet de l'IPVM.

"Avec la bannière d'alarme, cela s'adresse au marché des entreprises chinoises : les grandes autorités, généralement la police", a-t-il déclaré. "Il est destiné à la police ou à une forme quelconque d'autorité municipale … ​​il n'y a aucune raison de les suivre [bannières] automatiquement à moins que vous ne souhaitiez suivre les manifestations, en gros."

Peut-être la manifestation la plus reconnaissable en Chine ces dernières années – la protestation du Livre blanc contre les verrouillages stricts du COVID – a été lancée par un homme déployant une bannière sur un pont l'année dernière – une indication de la pertinence possible de la technologie pour la police (bien que ce ne soit pas savoir si le suivi des bannières déployées a été utilisé par la police dans ce cas particulier).

Dahua, qui est sanctionné par les gouvernements américain, britannique et australien, fournit un certain nombre de technologies d'IA de police prédictive qui peuvent surveiller les civils à l'aide de données biométriques. Auparavant, des documents internes de la société montraient qu'elle fournissait une IA de reconnaissance faciale pour suivre les Ouïghours, ce qui avait conduit aux sanctions occidentales. Dahua a nié le ciblage racial.

Une démo de l'IA déployant des bannières filmée en 2020 a également été publiée sur le site Web de Dahua avant d'être supprimée. "Si une personne tenant une banderole est détectée dans le champ de la caméra et dure pendant un certain temps, une alarme pour la police sera générée", explique la démo.

Dahua n'a pas répondu à une demande de commentaire de RFA.

Boom de la technologie policière

La technologie de déploiement de la bannière est une continuation du "développement de l'IA et de la façon dont cette technologie devient vraiment disponible" pour la police chinoise, a déclaré Rollet.

La Chine est connue pour collecter de vastes quantités de données sur ses habitants, et les technologies d'IA en expansion rapide offrent aux autorités une nouvelle façon de recueillir des informations.

Une sollicitation de propositions pour un projet de suivi de l'IA de la police de Shanghai, également découverte par l'IPVM le mois dernier, expose certaines des ambitions des autorités quant à l'utilisation des vastes données qu'elles ont recueillies.

"Le travail traditionnel de la police doit être transformé en une opération en ligne simplifiée numérique, intelligente et pratique", a-t-il déclaré. "La gestion efficace du modèle pour lui faire jouer son plus grand rôle est devenue un problème urgent dans le développement de la technologie de sécurité publique."

Le projet vise à créer des alertes automatiques pour informer la police des mouvements de populations particulières dans le quartier Songjiang de Shanghai, une banlieue peuplée avec une grande population d'universitaires et d'étudiants universitaires.

Les « populations cibles » que le projet cherche à suivre automatiquement incluent les Ouïghours ; les étrangers en séjour illégal ; les membres du corps professoral et du personnel des principales universités ; les journalistes étrangers en poste en Chine ; les étrangers qui ont visité le Xinjiang ou d'autres régions similaires ; les personnes vaccinées contre la COVID ; les criminels présumés, les travailleurs du sexe et les trafiquants de drogue ; et les familles ayant une consommation électrique anormale.

Selon un avis sur son site Web qui a ensuite été supprimé, la police de Songjiang a attribué le projet à une société de sécurité technologique, la Shanghai Juyi Technology Development Company, qui semble se spécialiser dans les contrats gouvernementaux.

La Shanghai Juyi Technology Development Company n'a pas renvoyé de demande de commentaire.

Comme pour Dahua, la police de Songjiang a supprimé l'avis après que l'IPVM l'a rendu public en mai, et RFA n'a pas pu joindre le responsable du projet figurant sur le document.

Les limites de Big Brother

Selon Maya Wang de Human Rights Watch, les 26 catégories de « populations cibles » du projet de Shanghai sont considérées comme du « personnel ciblé » par les autorités chinoises.

"Les personnes qui sont pétitionnaires, les personnes qui ont un casier judiciaire, les personnes souffrant de handicaps psychosociaux, etc., … ces groupes de personnes sont surveillés par la police", à la fois physiquement et par le biais des technologies, a déclaré Wang à RFA.

Mais la manière dont l'IA est utilisée pour suivre les gens montre à la fois la sophistication et la naïveté dans la façon dont les autorités chinoises pensent à la surveillance, a déclaré Geoffrey Cain, auteur de "The Perfect Police State", un livre sur la surveillance chinoise.

Les paramètres qu'ils utilisent - suivre le déploiement d'une bannière ou signaler les sauts dans la consommation d'électricité des ménages (dans le projet de la police de Shanghai) - ont tendance à fonctionner à rebours à partir de comportements qui pourraient n'être que vaguement liés à des activités censurées qu'ils tentent de réprimer de manière préventive. sur, comme la protestation ou l'extraction de crypto-monnaie.

"Cela me rappelle quand tout cet état de surveillance a vraiment commencé vers 2016 et 2017", a déclaré Cain. "Ils s'en prenaient à des gens qui commençaient soudainement à fumer ou à boire ou à des gens qui soudainement, vous savez, achetaient les articles utilisés pour fabriquer une tente.

"Et ce n'est pas parce qu'il y a une raison spécifique, mais les raisons qu'ils donneraient sont que ces types de comportements sont suspects. C'est presque comme s'ils avaient arbitrairement choisi quelque chose qui serait inhabituel", a-t-il déclaré.

"C'est comme si les autorités reculaient, mettant la cause avant le fait."

Discrimination et danger

Mais il y a un réel impact pour les groupes ciblés.

La surveillance de masse des Ouïghours en particulier a été un facteur clé pour permettre leur persécution, a déclaré Wang de HRW.

"Où qu'ils aillent en Chine, les Ouïghours sont essentiellement pointés du doigt pour une police discriminatoire et ciblée", a-t-elle déclaré. "Et cela signifie qu'ils souffrent souvent - ils sont souvent incapables de trouver un logement, un hôtel. Généralement, lorsqu'ils prennent le train, ils sont soumis à des enquêtes et à des interrogatoires, etc."

Selon une analyse de mai des acquisitions de systèmes de géolocalisation de la police chinoise par China Digital Times, une entreprise de médias spécialisée, une vague d'investissements de la police dans ces systèmes de suivi a été observée pour la première fois en 2017, puis à nouveau en 2020, augmentant tout au long de la pandémie de COVID-19.

"Certains contrats ont coïncidé avec d'autres achats gouvernementaux de systèmes de surveillance spécialement conçus pour cibler les Ouïghours", note le rapport. "Il existe également des concentrations notables d'approvisionnement dans les régions comptant d'importantes populations ouïghoures ou d'autres populations minoritaires."

Plus généralement, la préoccupation est que « ces systèmes [de surveillance par IA] permettent tous aux autorités de violer les droits de l'homme de différentes manières, selon la manière dont ils sont utilisés », a déclaré Wang.

"Et lorsqu'ils sont si bon marché et largement disponibles et dans le contexte de l'initiative "la Ceinture et la Route", compte tenu du financement chinois du gouvernement chinois, ils se propagent avec un impact néfaste sur les droits dans le monde", a-t-elle déclaré.

Rollet a accepté. "Je pouvais voir cela décoller dans d'autres pays", a-t-il déclaré. "Je pense que le plus grand risque est que cela crée un précédent et donne aux autres pays des idées sur ce qu'ils devraient faire, vous savez?"

Edité par Boer Deng

Ajoutez votre commentaire en remplissant le formulaire ci-dessous en texte brut. Les commentaires sont approuvés par un modérateur et peuvent être modifiés conformément aux conditions d'utilisation de RFA. Les commentaires n'apparaîtront pas en temps réel. RFA n'est pas responsable du contenu des publications. S'il vous plaît, respectez le point de vue des autres et tenez-vous en aux faits.