Les critiques affirment que Paris utilise les jeux de 2024 pour introduire la vidéosurveillance Big Brother

La loi globale qui doit être adoptée par l'Assemblée nationale française le 28 mars, avant les Jeux olympiques de Paris 2024, permettra aux magasins d'ouvrir le dimanche et créera un centre de santé dans le département de Seine-Saint-Denis (situé dans le nord-est de la France). et permettre à l'État français d'enquêter à l'avenir sur les personnes agréées. Mais l’article 7 de cette loi est particulièrement controversé, car il précise que la vidéosurveillance utilisant l’intelligence artificielle peut être utilisée, à titre expérimental, pour assurer la sécurité des Jeux Olympiques. Les groupes de défense des droits de l’homme affirment que l’utilisation de cette technologie créerait un dangereux précédent.

Lors de la phase préliminaire, l'article 7 a été adopté par la majorité présidentielle, le parti de droite en France Républicains Et le Rassemblement National d'extrême droite. La Nouvelle Union des Personnes Environnementales et Sociales (NUPES), une coalition de partis de gauche, s'y est opposée. Il permettra d'utiliser une technologie de vidéosurveillance basée sur des algorithmes pour garantir la sécurité des « événements sportifs, de divertissement ou culturels » à grande échelle, à titre pilote.

« Une attaque globale contre le droit à la vie privée »

« La vidéosurveillance algorithmique est une nouvelle forme de technologie qui utilise des programmes informatiques pour analyser en temps réel les images captées par les caméras de surveillance », explique Arnaud Touati, avocat spécialisé en droit du numérique. « Les algorithmes utilisés dans le logiciel s’appuient notamment sur la technologie d’apprentissage automatique, qui permet à la vidéosurveillance IA, au fil du temps, de continuer à s’améliorer et à s’adapter aux nouvelles situations. »

Les partisans de cette technologie affirment pouvoir anticiper les mouvements de foule et repérer les bagages abandonnés ou les accidents potentiellement dangereux. Par rapport à la vidéosurveillance traditionnelle, tout est automatisé grâce aux algorithmes chargés de l’analyse – ce qui, selon les partisans de cette technologie, limite les erreurs humaines.

« Alors que la France se présente comme un champion des droits de l’homme à l’échelle mondiale, sa décision de légitimer la surveillance de masse basée sur l’IA pendant les Jeux olympiques entraînera une attaque globale contre les droits à la vie privée, à la protestation et à la liberté de réunion et d’expression. » L'international a déclaré dans un communiqué après l'approbation de l'article.

Un signe avant-coureur de la future vidéosurveillance à travers l’Europe ?

Cette technologie peut susciter beaucoup de craintes, explique Katja Roux, spécialiste des technologies et des droits humains à l'ONG. « En vertu du droit international, la législation doit respecter les principes stricts de nécessité et de proportionnalité », dit-elle. « Mais dans ce cas, le législateur n'a pas réussi à le prouver. » « Nous parlons d'une technologie d'évaluation, qui devrait évaluer les comportements et les classer comme à risque afin que des mesures puissent ensuite être prises. »

« Cette technologie n'est pas légale aujourd'hui. En France, des expérimentations ont été menées mais pas dans le cadre juridique que propose de créer cette loi », a-t-elle déclaré. « Ce n'est pas non plus légal au niveau européen. Cela a même été évoqué lors des discussions au Parlement européen sur la technologie et la réglementation des systèmes d'intelligence artificielle. La législation pourrait donc également violer le règlement européen en cours d'élaboration. »

Elle a poursuivi : « En adoptant cette loi, la France deviendra le champion de la vidéosurveillance dans l'Union européenne et créera un précédent très dangereux. Cela enverra un signal très inquiétant aux pays qui pourraient être tentés d'utiliser cette technologie contre leurs propres populations. « .

Discriminatoire?

L’une des préoccupations est qu’un algorithme qui semble froid et infaillible puisse en réalité contenir des biais discriminatoires. « Ces algorithmes seront entraînés à partir d'un ensemble de données décidées et conçues par des humains. Ils pourront donc… Intégrer les préjugés discriminatoires des personnes qui les ont conçus et créés«Roe dit.

« La vidéosurveillance IA a déjà été utilisée à des fins racistes, notamment par la Chine, dans la surveillance exclusive des Ouïghours, minorité musulmane présente dans le pays », affirme Touati. « Parce que les minorités raciales sont sous-représentées dans les données fournies aux algorithmes à des fins d'apprentissage, il existe d'importants préjugés discriminatoires et racistes. Selon une étude du MIT, si l'erreur de reconnaissance faciale est de 1 % pour les hommes blancs, elle atteint 34 % pour les noirs. femmes. »

Mais Touati souhaite voir la coupe à moitié pleine. « L'utilisation de la vidéosurveillance IA lors d'événements de cette ampleur peut également mettre en évidence… Algorithme « Les préjugés discriminatoires, misogynes et racistes consistant à identifier des personnes issues de groupes ethniques minoritaires comme suspects potentiels sont trop fréquents pour être exacts », explique-t-il.

Interrogé par des membres de la coalition d’opposition de gauche NUPES sur le type de personnes qui seraient ciblées par la vidéosurveillance par l’IA, le ministre français de l’Intérieur Gérald Darmanin a répondu : « Non ». [ones wearing] Le gouvernement français estime que les limites imposées par la loi – absence de reconnaissance faciale et de protection des données – seront suffisantes pour prévenir les pratiques discriminatoires.

« Nous avons mis en place des garde-fous pour que les appels d'offres soient réservés uniquement aux entreprises qui respectent un certain nombre de règles, notamment l'hébergement des données sur le territoire national, et le respect de la CNIL. [National Commission on Informatics and Liberty; an independent French administrative regulatory body responsible for ensuring that data privacy law is applied to the collection, storage and use of personal data] et le Règlement Général sur la Protection des Données [General Data Protection Regulation ; a data protection law introduced by the EU]» déclare le député Philippe Latombe, membre du parti politique pro-européen et de centre-droit, le Mouvement Démocrate. Il a cosigné un amendement avec l'Assemblée nationale pour que l'appel d'offres donne la priorité aux entreprises européennes. « Nous ne voulons pas que ce soit une entreprise chinoise qui traite des données en Chine et les utilise pour faire autre chose. »

« Nous ne sommes pas rassurés par les garanties gouvernementales », dit Rowe. « En fait, aucune modification réelle n'est possible, et cette technologie en elle-même est problématique et dangereuse pour les droits de l'homme. » « Cela le restera jusqu'à ce qu'une évaluation sérieuse soit entreprise, que la nécessité et la proportionnalité de son utilisation soient démontrées et qu'une véritable discussion soit tenue avec divers acteurs de la société civile sur cette question. »

Événements sportifs et expérimentations techniques

Bien que les Jeux olympiques soient clairement l’événement visé, cet essai technologique pourrait commencer une fois la loi mise en œuvre et se terminera le 31 décembre 2024, quatre mois après la fin des Jeux paralympiques. Il peut donc s'appliquer à un large éventail d'événements, à commencer par la Coupe du monde de rugby du 8 septembre au 28 octobre.

Les opposants à la vidéosurveillance IA craignent que son utilisation initialement exceptionnelle ne finisse par se banaliser. Après tout, les événements sportifs servent souvent de terrain d’essai pour la police, la sécurité et les nouvelles technologies. Par exemple, les Jeux olympiques de Londres en 2012 ont conduit à une généralisation de la vidéosurveillance dans la capitale britannique.

« Nous craignons que cette période exceptionnelle ne devienne la norme », explique Rowe, ajoutant que la technologie de reconnaissance vocale, déployée à titre expérimental lors de la Coupe du monde 2018 en Russie, est depuis utilisée pour réprimer la dissidence.

Enfin, Amnesty International craint que la vidéosurveillance ne conduise à terme à une surveillance biométrique ou audio. « La reconnaissance faciale n'est qu'une fonctionnalité qui attend d'être activée », explique Rowe.

La loi sur les Jeux Olympiques de 2024 n’a pas encore achevé son parcours législatif. Après le vote officiel de mardi à l'Assemblée nationale, le texte connaîtra plusieurs modifications et fera de multiples voyages entre l'Assemblée et le Sénat, qui l'avait préalablement amendé, jusqu'à ce que les deux chambres s'accordent pour l'adopter.

Tech 24 Peter O'Brien Contribuez à cet article.

Cet article a été traduit de l'original en français.