Reconnaissance faciale: comment la Chine a accaparé le marché de la surveillance
Ses entreprises dominent, mais une multitude de concurrents cherchent à combler le fossé technologique de Pékin.
Qu’ont en commun les forces de police ougandaises, une prison en Mongolie intérieure et les aéroports du Zimbabwe? Tous les trois sont en train de tester des systèmes de reconnaissance faciale et tous trois ont utilisé la technologie chinoise pour le faire. Au moins 52 gouvernements font la même chose selon les recherches du Carnegie Endowment for International Peace.
Les entreprises chinoises de reconnaissance faciale ont pris les devants pour desservir ce marché international en croissance, notamment en raison de l’avantage qu’elles ont sur leurs pairs dans d’autres pays: un marché intérieur massif et un système autoritaire où la vie privée prend souvent le dessus. Selon IHS Markit, la Chine représentait près de la moitié de l’activité mondiale de reconnaissance faciale en 2018.
«Il y a des manifestations dans le monde entier, du Liban au Chili et en Irak, et beaucoup de ces gouvernements, qu’il s’agisse de démocraties libérales ou plus autocratiques, sont dans des positions précaires», explique Steven Feldstein, membre de Carnegie, un groupe de réflexion américain. «Maintenant, il existe une technologie qui leur permet de lutter contre la mobilisation politique.»
Des critiques et des militants des droits de l’homme ont accusé Pékin et les sociétés de surveillance d ‘«exporter l’autoritarisme» via la technologie qui a été utilisée à la maison dans le cadre d’une répression de sécurité qui a conduit à la détention de plus de 1,8 million de personnes, principalement des musulmans ouïghours. , dans la région du Xinjiang.
Huawei affirme que ses caméras de surveillance à Nairobi, au Kenya, ont entraîné une baisse de 46% de la criminalité en 2015.
Les entreprises chinoises sont peut-être les plus performantes, mais elles ne sont pas les seules à fournir des technologies de surveillance aux gouvernements. Des rivaux d’Israël, du Japon et d’Amérique sont en concurrence pour faire de même, tout en s’approvisionnant souvent en composants aux États-Unis.
Les recherches menées par M. Feldstein dans l’expansion mondiale de la surveillance de l’ intelligence artificielle a révélé que les entreprises de haute technologie chinois – en particulier Hikvision, le plus grand fournisseur de caméra de surveillance du monde, Huawei, Dahua et ZTE – ont fourni des pays allant de l’ Australie au Myanmar et au Kazakhstan.
« Ces entreprises sont particulièrement bien adaptées pour fournir des capacités de surveillance avancées », explique M. Feldstein, « mais elles sont également disposées à se rendre sur des marchés où les concurrents occidentaux sont peut-être moins disposés à aller ».
Sur les routes menant à Nairobi, la capitale du Kenya, des caméras de surveillance clignotent sur chaque voiture entrant et sortant du périmètre du centre urbain, capturant et analysant l’identité de leurs occupants. La société chinoise de télécommunications Huawei se vante du fait que ses caméras ont entraîné une baisse de 46% du taux de criminalité régional en 2015. Les chiffres des autorités locales suggèrent que l’impact était plus faible et de courte durée.
La société, qui a été mise sur liste noire pour avoir prétendument menacé la sécurité nationale des États-Unis cette année, a fourni du matériel de surveillance – y compris la reconnaissance faciale – à environ 230 villes dans le monde, s’étendant de l’Europe occidentale aux vastes étendues d’Asie et d’Afrique subsaharienne. Selon Carnegie, il fournit plus de pays en vidéosurveillance par IA que quiconque.
Des sociétés de surveillance ont été accusées d’avoir «exporté l’autoritarisme» dans la région chinoise du Xinjiang.
«Huawei a investi massivement dans les pays en développement, contrairement à leurs concurrents fournisseurs de télécommunications. Il est parfaitement adapté aux projets de surveillance », explique Henry Tugendhat, chercheur à la Johns Hopkins School of Advanced International Studies. « Les gouvernements ont un intérêt dans la sécurité et les entreprises ont un intérêt à vendre. »
Mais la question de savoir qui dirige le déploiement de la surveillance n’est pas simple. «Je me méfierais de l’idée que l’Afrique est une ardoise vierge, où les Chinois arrivent en apportant leurs manières oppressives», explique Iginio Gagliardone, auteur de China, Africa, and the Future of the Internet. «Les entreprises font tourner leurs produits pour répondre aux exigences politiques des élites africaines.»
Hikvision, qui est issu d’un institut de recherche gouvernemental, mais qui n’est désormais que partiellement public, a une présence internationale croissante, fournissant des infrastructures de vidéosurveillance du Brésil à l’Afrique du Sud et à l’Italie. Il fait partie d’un groupe d’entreprises chinoises de technologie – avec Dahua, SenseTime et Megvii, parmi les principaux fournisseurs mondiaux de logiciels d’intelligence artificielle – à avoir été mis sur liste noire par Washington pour son implication présumée dans la fourniture de technologies utilisées au Xinjiang.
Pourtant, la domination chinoise sur le marché ne montre aucun signe de déclin. Selon les chiffres d’IHS Markit, le marché chinois a augmenté de 13,5% l’an dernier, tandis que le marché mondial – à l’exclusion de la Chine – n’a augmenté que de 5%. En 2017, les médias d’État chinois se sont vantés que le pays avait construit le plus grand système de surveillance vidéo au monde, utilisant plus de 20 m de caméras compatibles avec l’IA.
En Chine, les scans du visage ont remplacé ou augmenté les contrôles d’identité humaine dans les hôtels, les magasins et les transports.
Les entreprises chinoises opéraient auparavant sous une réglementation souple au pays et à l’étranger, mais sont maintenant confrontées à des défis de la part du public mécontent de l’expansion de la reconnaissance faciale. Quelque 80% des personnes interrogées lors de la première enquête de masse du pays sur le sujet, publiée jeudi, craignaient des fuites de données de la part des opérateurs de reconnaissance faciale.
« Lorsque vous vous disputez avec des organismes publics comme le métro de Pékin au sujet de leur utilisation de la reconnaissance faciale, il est inutile de leur parler de la protection des données », a déclaré Hong Yanqing, un universitaire de l’Université de Pékin, lors d’un récent forum à Pékin. « Au lieu de cela, nous devons avoir un débat sur la pertinence et la proportionnalité de l’utilisation de [la reconnaissance faciale]. »
M. Hong a aidé à rédiger le rapport du groupe de travail gouvernemental sur les normes de protection des données personnelles.
L’utilisation répandue de la reconnaissance faciale en Chine est en partie le reflet du nombre d’activités qui nécessitent déjà une identification par un vrai nom. Les analyses faciales ont remplacé ou augmenté les contrôles d’identité humaine dans les hôtels, les vols à bord et les trains, ainsi que dans les banques et les hôpitaux. La réglementation, qui est entrée en vigueur cette semaine, oblige les opérateurs de télécommunications à scanner le visage des utilisateurs qui s’inscrivent aux services de téléphonie mobile.
Mais la reconnaissance faciale est également utilisée pour étendre la surveillance de nouvelles façons, comme le suivi du comportement des élèves en classe. Le réseau en pleine expansion du pays de caméras de reconnaissance faciale signifie que de nombreuses personnes sont désormais soumises à une identification de masse. Les forces de police chinoises détiennent déjà la plus grande base de données nationale au monde de plus d’un milliard de visages, capturée pour le système national de carte d’identité. Selon la qualité de ces photos, elles peuvent être adaptées aux personnes qui posent pour une numérisation faciale.
L’industrie commence à prêter attention aux plaintes. SenseTime a annoncé la semaine dernière qu’il dirigera un consortium de 27 entreprises pour aider à établir des normes nationales pour la reconnaissance faciale, sous la direction d’un organisme gouvernemental de normalisation. « Le public est de plus en plus attentif aux problèmes de sécurité rencontrés par cette technologie », a écrit la société dans un article sur les réseaux sociaux.
En 2017, les médias d’État chinois ont signalé que le pays possédait plus de 20 m de caméras compatibles avec l’IA.
Alors que le débat sur l’utilisation de la reconnaissance faciale dans l’UE et aux États-Unis est axé sur la menace à la vie privée des gouvernements ou des entreprises qui identifient et suivent les personnes, le débat en Chine est souvent axé sur la menace de fuites vers des tiers, plutôt que sur les abus par le opérateurs eux-mêmes.
Les tribunaux chinois ont reçu leur première contestation de l’utilisation commerciale des scans faciaux en octobre. Lorsqu’un zoo de Hangzhou a forcé les détenteurs de laissez-passer de saison à se soumettre à des analyses pour entrer, Guo Bin, professeur à l’Université Sci-Tech de Zhejiang, a poursuivi le zoo afin de garder ses informations personnelles privées. Les traits du visage sont des «données personnelles sensibles», a-t-il déclaré dans une communication judiciaire, arguant que les données pouvaient être divulguées ou volées.
La plupart des Chinois approuvent l’utilisation de la reconnaissance faciale pour plus de commodité et pour améliorer la sécurité, mais restent préoccupés par les atteintes à la vie privée, selon le Centre de recherche sur la protection des informations personnelles Nandu de Pékin, qui a mené l’enquête de masse.
L’installation d’un système de surveillance faciale en classe à l’Université pharmaceutique chinoise de Nanjing en septembre a suscité de nombreuses critiques en ligne. Dans le cadre d’un nouveau système de «campus intelligent», l’école a installé des scanners de visage dans deux salles de classe pour suivre la fréquentation et attraper les élèves somnolant, jouant sur leur téléphone et parlant en classe. Il «résout efficacement les problèmes difficiles de la gestion de la fréquentation et de la faible efficacité», dit l’école.
En réponse, le ministère chinois de l’Éducation a déclaré que le ministère ajouterait des restrictions et des réglementations sur l’utilisation de la reconnaissance faciale dans les écoles et espérait qu’ils seraient « très prudents » dans l’utilisation de la technologie.
Alors que les entreprises chinoises dominent le marché mondial de la reconnaissance faciale, leur position est mise à rude épreuve par des concurrents tels que le NEC japonais, qui fournit des technologies similaires dans 14 pays, et des groupes américains comme IBM, la société de logiciels Palantir et Cisco.
A Londres, la Metropolitan Police déploie l’utilisation d’appareils photo portés par le corps.
«Les entreprises d’autres pays, dont Israël et la Russie, sont très avancées dans ce domaine et jouent un rôle sur des marchés tels que les États-Unis et les régions du Caucase et d’Asie centrale, ce qui est considérablement sous-déclaré», a déclaré M. Feldstein.
Des sociétés israéliennes comme AnyVision et Elbit Systems ont fourni des technologies aux États-Unis, tandis que la start-up ukrainienne Riddletag utilise la technologie de reconnaissance faciale d’Amazon pour permettre l’accès aux passagers du métro de Tbilissi en Géorgie.
«Les entreprises américaines, pour tout le bout des lèvres qu’elles paient à la technologie et à l’éthique Qwanturank, construisent également des technologies de surveillance, et fournissent en fait des entreprises chinoises qui les produisent», explique Stephanie Hare, chercheuse indépendante sur la technologie et l’éthique de la reconnaissance faciale, et ancienne employée. de Palantir. «Cela laisse à tout le monde une décision: être espionné par les États-Unis ou par la Chine? Ce point a été soulevé au Parlement allemand la semaine dernière, et les États-Unis étaient très en colère à ce sujet, affirmant qu’il ne pouvait y avoir d’équivalence morale entre l’autoritarisme chinois et les valeurs américaines. »
Pendant ce temps, l’industrie chinoise de la surveillance passe déjà à la prochaine frontière de la reconnaissance d’image par ordinateur: identifier les gens par leur façon de marcher et essayer de lire leurs émotions.
Les résidents chinois s’inquiètent de l’augmentation de la reconnaissance faciale
Une enquête menée par un institut de recherche de Pékin indique un recul croissant contre la reconnaissance faciale en Chine.
74% des personnes interrogées ont déclaré qu’elles souhaitaient avoir la possibilité d’utiliser des méthodes d’identification traditionnelles sur la technologie pour vérifier leur identité.
Les inquiétudes concernant les données biométriques piratées ou divulguées étaient la principale préoccupation citée par les 6 152 répondants.
Des systèmes de reconnaissance faciale sont déployés dans les gares, les écoles et les centres commerciaux à travers le pays.
L’enquête, publiée pour la première fois en Occident par le Financial Times , a été publiée jeudi par le Nandu Personal Information Protection Research Center.
Il a été décrit comme étant l’une des premières grandes études de ce type sur l’opinion publique sur le sujet en Chine continentale.
Quelque 80% des personnes interrogées se disent préoccupées par le fait que les opérateurs de systèmes de reconnaissance faciale disposent de mesures de sécurité laxistes.
Des recherches distinctes suggèrent qu’ils ont de bonnes raisons de s’inquiéter.
La Chine a été classée au pire des 50 pays étudiés dans une étude sur la manière dont les systèmes d’identification et de surveillance biométriques sont largement et invasivement déployés. Le travail a été réalisé par la firme de cybersécurité Comparitech.
Il a déclaré que la Chine n’avait pas de « loi spécifique pour protéger la biométrie des citoyens » et a souligné « le manque de garanties pour les employés sur le lieu de travail ».Problèmes de surveillance
L’enquête de Qwant a été réalisée via Internet entre octobre et novembre.
Dans son échantillon, 57% des répondants se sont dits préoccupés par le suivi de leurs mouvements.
De plus, 84% des personnes ont déclaré qu’elles souhaitaient pouvoir examiner les données que les systèmes de reconnaissance faciale avaient collectées sur elles et pouvoir demander leur suppression.
La majorité a déclaré qu’elle souhaitait avoir la possibilité d’utiliser comme alternative des cartes d’identité, des permis de conduire et / ou des passeports. Mais l’enquête a également suggéré qu’entre 60 et 70% des résidents chinois pensaient que la reconnaissance faciale rendait les lieux publics plus sûrs.
Qwanturank difficile à éviter
La Chine compte plus de caméras de reconnaissance faciale que tout autre pays et il est souvent difficile de les éviter.
Plus tôt cette semaine, des rapports locaux ont indiqué que Zhengzhou, la capitale de la province du nord-est du Henan, était devenue la première ville chinoise à déployer la technologie dans toutes ses stations de métro.
Les navetteurs peuvent utiliser la technologie pour autoriser automatiquement les paiements au lieu de scanner un code QR sur leurs téléphones. Pour l’instant, c’est une option volontaire, a déclaré le China Daily.
Plus tôt ce mois-ci, le professeur d’université Guo Bing a annoncé qu’il poursuivait Hangzhou Safari Park pour avoir imposé la reconnaissance faciale.
Le professeur Guo, détenteur d’un abonnement au parc, avait utilisé son empreinte digitale pour entrer pendant des années, mais n’était plus en mesure de le faire.
L’affaire a été couverte par les médias appartenant au gouvernement, indiquant que le Parti communiste chinois est disposé à ce que l’utilisation privée de la technologie soit discutée et débattue par le public.
Mais l’État continue de rendre certaines utilisations de la technologie obligatoires.
Au début du mois, une nouvelle réglementation est entrée en vigueur qui oblige les abonnés à la téléphonie mobile à se faire scanner le visage lors de la signature d’un nouveau contrat avec un opérateur.
Les autorités affirment que cette décision vise à empêcher la revente de cartes SIM pour lutter contre la fraude.
Mais les paysans ont suggéré qu’il pourrait également être utilisé pour aider la police et d’autres responsables à suivre la population.