La Commission européenne a publié son projet visant à encadrer la reconnaissance faciale, l’IA et autres nouvelles technologies. L’objectif des garde-fous qu’elle veut mettre en place ne vise pas à les

interdire. Mais de leur permettre de se développer dans certaines limites. Par exemple, tout ce qui tourne autour du « social scoring » – le tri des citoyens selon leurs comportements sociaux dans le but, en leur attribuant un score de leur ouvrir ou fermer certains services – est proscrit.

La Commission veut également interdire l’identification des personnes en temps réel, dans l’espace public, au moyen de technologies telles que la biométrie, qu’elle considère comme « particulièrement intrusive ». En revanche, les forces de police pourront utiliser la biométrie pour localiser une personne disparue, comme un enfant kidnappé, ou des individus recherchés pour des crimes graves.

Par ailleurs, certaines applications de l’IA, jugées « à haut risque » par l’Europe seront interdites. La Commission cite les logiciels qui permettent de décider si une personne peut accéder à un prêt, être

embauchée par une entreprise, d’attribuer des aides sociales… Ces outils basés sur l’IA à haut risque devront jouir d’un label pour être commercialisées en Europe. Les éditeurs de ces logiciels devront avoir un représentant légal en Europe, et seront placés sous la surveillance des autorités nationales de régulation qui auront la possibilité de lancer des enquêtes. À la suite desquelles, les éditeurs ne respectant pas la réglementation pourront se voir infliger une amende 6 % leur CA annuel, avec obligation de retirer le logiciel du marché.