IA Act : la vidéo intelligente interdite ?
Le Parlement européen a publié sa « position de négociation » sur le cadre législatif commun pour le recours à l’IA dans l’UE. Dans son viseur, entre autres : la surveillance biométrique.
Le texte, baptisé AI Act, doit permettre de « protéger la santé, la sécurité, les droits fondamentaux et la démocratie des effets néfastes de l’IA », selon le communiqué de presse du Parlement. En définissant « des règles qui garantiraient que l’IA qui est développée et utilisée en Europe soit pleinement conforme aux droits et valeurs de l’UE, notamment sur la surveillance humaine, la sécurité, la protection de la vie privée, la transparence, la non-discrimination et le bien-être social et environnemental. »
Selon ce texte, « les systèmes d’IA présentant un niveau de risque inacceptable pour la sécurité des personnes seront donc interdits, comme ceux qui sont utilisés pour la notation sociale (classifiant les personnes en fonction de leur comportement social ou de leurs caractéristiques personnelles). »
Des usages interdits
Par ailleurs députés ont élargi la liste pour inclure des interdictions des utilisations intrusives et discriminatoires de l’IA, telles que :
- les systèmes d’identification biométriques à distance en « temps réel » dans les espaces accessibles au public;
- les systèmes d'identification biométrique à distance « a posteriori », à la seule exception des forces de l'ordre pour la poursuite de crimes graves, et seulement après autorisation judiciaire;
- les systèmes d'identification biométrique utilisant des caractéristiques sensibles (par exemple, le genre, la race, l’origine ethnique, le statut de citoyen, la religion, l’orientation politique);
- les systèmes de police prédictive (fondés sur le profilage, la localisation ou le comportement criminel passé);
- les systèmes de reconnaissance des émotions utilisés dans les services répressifs, la gestion des frontières, le lieu de travail et les établissements d’enseignement;
- la saisie non ciblée d’images faciales provenant d’internet ou de séquences de vidéosurveillance en vue de créer des bases de données de reconnaissance faciale (ce qui constitue une violation des droits humains et du droit au respect de la vie privée).
Comme l’a expliqué le corapporteur Dragoş Tudorache (Renew, Roumanie) : « La loi sur l'IA donnera le ton au niveau mondial en matière de développement et de gouvernance de l'intelligence artificielle, en veillant à ce que cette technologie, appelée à transformer radicalement nos sociétés grâce aux avantages considérables qu'elle peut offrir, évolue et soit utilisée dans le respect des valeurs européennes que sont la démocratie, les droits fondamentaux et l'État de droit. »
Soutenir l’innovation et protéger les droits des citoyens
Pour encourager l’innovation en matière d’IA et soutenir les PME, les députés ont ajouté des exceptions pour les activités de recherche et les composants d’IA fournis dans le cadre de licences libres. La nouvelle législation encourage ce que l’on appelle les « bacs à sable réglementaires pour l’IA », ou les environnements de mise en situation, mis en place par les autorités publiques pour tester l’IA avant son déploiement. Cette disposition s’applique-t-elle aux Etats qui ont déjà adopté des lois ou pris des dispositions. On pense évidemment au recours à la vidéosurveillance intelligente lors des prochains Coupe du monde rugby et Jeux olympiques et paralympiques de Paris. Lesdites dispositions seront-elles reprise dans la version finale de l’IA Act. Les débats qui ont commencé au Parlement européen mi-juin s’annoncent complexes. A suivre…
Photo d’illustration © Getty Images
