« Les législateurs français doivent rejeter tout projet de recours à la vidéosurveillance par intelligence artificielle (IA) lors des Jeux olympiques de Paris en 2024. Ces technologies draconiennes de surveillance de masse violent le droit à la vie privée et pourraient également violer les droits à la liberté d'expression et de réunion pacifique, ce qui pourrait conduire à des niveaux de surveillance dystopiques à l'avenir », a déclaré Amnesty International aujourd'hui alors que le projet de loi sur les Jeux olympiques et paralympiques de 2024 était adopté. vote en plénière présenté en séance. Citoyen français.

Renforcer l’appareil de sécurité grâce à une surveillance de masse basée sur l’IA est un projet politique dangereux qui pourrait conduire à des violations généralisées des droits humains. Toute action entreprise dans l’espace public est entraînée dans un réseau d’infrastructures de surveillance et porte atteinte aux libertés civiles fondamentales.

Agnès Callamard, secrétaire générale d'Amnesty International

Le projet de loi a été approuvé par le Sénat français en Janvier et s’il est adopté, il légalisera, pour la première fois dans l’histoire de la France et de l’Union européenne, l’utilisation d’un système de vidéosurveillance de masse omniprésent alimenté par l’IA. Selon le législateur français, cette architecture de surveillance colossale est « expérimentale » et servira à assurer la sécurité pendant les jeux. Amnesty International craint toutefois que le projet de loi n'entraîne une extension des pouvoirs de la police en augmentant de manière permanente l'arsenal d'équipements de surveillance du gouvernement.

« Doter l’appareil de sécurité d’une surveillance de masse basée sur l’IA est un projet politique dangereux qui pourrait conduire à des violations généralisées des droits humains. « Chaque action dans l’espace public tombera dans les réseaux d’infrastructures de surveillance et portera atteinte aux libertés civiles fondamentales », a prévenu Agnès Callamard, secrétaire générale d’Amnesty International.

« Le législateur français n’a pas démontré que cette législation respectait les principes de nécessité et de proportionnalité, absolument fondamentaux pour garantir que les mesures de sécurité et de surveillance ne portent pas atteinte aux droits à la liberté de réunion et d’association, au droit à la vie privée et au non-respect. Discrimination. » Puisque le besoin de sécurité pendant l'événement est compréhensible, les normes internationales en matière de droits de l'homme continuent de s'appliquer aux Jeux Olympiques. Dans leur forme actuelle, ces applications générales de surveillance de masse alimentées par l’IA représentent une violation totale du droit à la vie privée et d’autres droits.

Si des mesures de surveillance de masse basées sur l’IA sont mises en œuvre, des millions de personnes seront suivies et surveillées lorsqu’elles se rendent aux stades ou utilisent les transports en commun pour accéder aux principaux sites sportifs. Les algorithmes d’IA analysent et collectent les données de toutes les personnes se trouvant dans leur sphère d’influence. La présence omniprésente de caméras de surveillance et de drones aux Jeux, qui permettront aux autorités de repérer des activités « suspectes » ou « inhabituelles » dans la foule, est donc particulièrement problématique.

« Ces définitions trop larges utilisées par les autorités pour qualifier les activités de masse « suspectes » ou « anormales » sont très inquiétantes. Nous devons nous poser quelques questions urgentes : qui établit la norme de ce qui est « normal » ? « Les autorités qui contrôlent les activités « anormales ou suspectes » dans les sociétés ont également le pouvoir d’accroître l’effet dissuasif sur la dissidence et les manifestations et d’exacerber la discrimination contre des communautés déjà discriminées », a poursuivi Agnès Callamard.

Les menaces pour les droits humains posées par le développement et l’utilisation de l’IA par les entreprises et les autorités privées de l’Union européenne (UE) sont bien documentées.

« Ces technologies renforcent la police raciste et menacent le droit de manifester. « Les minorités ethniques – notamment les migrants, les personnes noires et brunes – sont les plus exposées au risque d'être ciblées par certains outils de surveillance, notamment les systèmes de reconnaissance faciale », a déclaré Agnès Callamard.

Non seulement ce projet de loi constitue une menace pour la vie privée et les droits de l’homme, mais il trahit également l’esprit de la loi européenne sur l’intelligence artificielle, une loi d’importance mondiale qui vise à réglementer l’IA et à protéger les droits fondamentaux dans l’Union, dont le membre influent est la France.

«Le projet de la France de recourir à des mesures de surveillance invasives pendant les Jeux olympiques devrait servir de signal d'alarme pour l'UE. L'utilisation par l'UE de ce mécanisme de sécurité pour la première fois pourrait à terme perturber la législation de l'Union sur l'IA de manière à déclencher une crise des droits de l'homme par des violations à grande échelle des droits de millions de personnes qui sont surveillées, à leur insu ou sans leur consentement. et potentiellement y soumettre des technologies expérimentales de surveillance de masse. Grâce à ses négociations sur la loi sur l’IA, l’UE doit mettre fin à l’utilisation des technologies d’intelligence artificielle pour la surveillance de masse et la surveillance discriminatoire des citoyens. Nous demandons également l’interdiction des systèmes de reconnaissance faciale utilisés pour la surveillance de masse », a conclu Agnès Callamard.

Si la France légalise la surveillance de masse au niveau national, l'un des plus grands événements sportifs au monde pourrait devenir l'une des plus grandes violations du droit à la vie privée.

Informations complémentaires

Le texte du projet de loi a été approuvé et adopté par le Sénat le 31 janvier obstacle législatif le 8 mars après le vote de la Commission.

Dans une lettre ouverte À l'initiative du Centre européen pour le droit à but non lucratif, 38 organisations de la société civile, dont Amnesty International, ont appelé les décideurs politiques français à rejeter le projet de loi, qui autorise une surveillance invasive.

Amnistie internationale, avec une coalition d'organisations de la société civile mené par le Réseau européen des droits numériques (EDRi), appelle à une réglementation des technologies et des pratiques d'IA dans l'UE conformément aux droits de l'homme.

Amnesty International a déjà documenté l'opération Des milliers de caméras de sécurité dotées de capacités de reconnaissance faciale à New York, dont beaucoup ont été déployés dans des communautés racialisées et ont accru les pratiques policières racistes.

Après Jeux olympiques de Londres 2012De nombreuses mesures de surveillance utilisées à des fins de sécurité lors de l'événement ont été adoptées de manière permanente.