Début juin, IBM a annoncé qu’il arrêtait de vendre des logiciels de reconnaissance faciale. Dans une lettre adressée au Congrès américain, son président directeur général, Arvind Krishna, explique qu’IBM « s'oppose fermement à quelque technologie de reconnaissance faciale que ce soit, y compris celles d'autres prestataires, et n'approuvera aucun usage destiné à la surveillance de masse, au profilage racial, aux violations des droits et libertés humains les plus élémentaires. » Il précise même que le géant américain de l’informatique est prêt à travailler avec les parlementaires pour préciser les bons usages de ce type d'outil, leurs domaines d’applications et d’utilisations… Et appelle même à un débat sur les questions posées par le recours à ce type de technologie par la police. IBM va désormais se concentrer sur la détection visuelle d’objets.

A peu près à la même période, c’est un autre géant américain, Amazon, qui annonçait qu’il avait décidé d’interdire temporairement à la police d’utiliser son logiciel Rekognition, pourtant très apprécié des forces de l’ordre mais dont les possibles erreurs avaient été pointées du doigt par des ONG comme l'Aclu (American Civil Liberties Union) qui avait démontré que Rekognition pouvait confondre des élus du Congrès avec des criminels…

Déjà San Francisco…

Il y a un peu plus d’un an, dans nos colonnes, nous nous faisions l’écho de la décision du conseil municipal de la ville de San Francisco d’interdire le recours à la reconnaissance faciale pour les agences gouvernementales et la police. Par ailleurs, le texte « Stop Secret Surveillance Ordinance » (ordonnance pour l’arrêt de la surveillance secrète) voté par la ville de San Francisco, imposait aux organismes municipaux qui voudraient utiliser les technologies de surveillance, d’obtenir une autorisation et de mettre place des audits pour évaluer les dispositifs déjà installés.
Rejet d’autant plus justifié pour certains puisque selon une étude du prestigieux MIT, dans 19 % des cas, un système de reconnaissance faciale a pris des femmes pour des hommes. Ce pourcentage passe à 31 % lorsque les femmes ont la peau foncée… D’autres tests à grande échelle menés aux États-Unis se sont aussi soldés par un échec. Ainsi, un système testé sur le pont Robert-Kennedy (ou Triborough Bridge) à New York, afin de reconnaître des visages parmi les 900 000 véhicules qui empruntent le pont chaque jour, n’en a reconnu aucun…

Des technos qui font débat

La reconnaissance faciale est encadrée en France et très surveillée par certaines instances comme la Cnil. Même si, en février dernier, Cédric O, secrétaire d’Etat au numérique, souhaitait que la reconnaissance faciale puisse être expérimentée.
A l’inverse, dans un livre blanc, publié au mois de février dernier, la Commission européenne émet de sérieuses réserves – c’est un euphémisme – quant à la reconnaissance faciale… Alors qu’une bonne dizaine de polices européennes l’utilisent et que d’autres envisagent de le faire.
La Commission européenne exprime donc, dans le livre blanc en question, certaines inquiétudes quant au respect des droits fondamentaux des individus dans un contexte sécuritaire de plus en plus technologique. Ainsi, dans son document, elle donne l’exemple « des biais dans des algorithmes ou des données de formation utilisés dans des systèmes de recrutement reposant sur l'IA [qui] pourraient conduire à des résultats qui seraient injustes et discriminatoires et, partant, illégaux en vertu de la législation de l'UE en matière de non-discrimination. Il importe de prévenir les violations des droits fondamentaux et de veiller à ce que les autorités nationales puissent intervenir si de telles violations se produisent. Les systèmes d'IA à haut risque doivent être certifiés, testés et contrôlés, au même titre que les voitures, les cosmétiques et les jouets. Pour les autres systèmes d'IA, la Commission propose un système de label non obligatoire lorsque les normes définies sont respectées. Les systèmes et algorithmes d'IA pourront tous accéder au marché européen, pour autant qu'ils respectent les règles de l'UE. »
Une Commission européenne inquiète…

Quid de son avis sur la reconnaissance faciale ? Il n’est guère plus « optimiste ». Jugeons-en : « La collecte et l'utilisation de données biométriques à des fins d'identification à distance comportent des risques particuliers en termes de droits fondamentaux. Les règles de l'UE en matière de protection des données interdisent en principe déjà le traitement de données biométriques aux fins d'identifier une personne physique de manière unique, sauf dans des conditions spécifiques. Plus précisément, l'identification biométrique à distance ne peut être utilisée que pour des motifs d'intérêt public majeur. Son utilisation doit être fondée sur le droit de l'UE ou sur le droit national, être dûment justifiée, proportionnée et assortie de garanties adéquates. Par conséquent, le recours à la reconnaissance faciale n'est actuellement autorisé que de manière exceptionnelle. Avec le livre blanc sur l'IA, la Commission souhaite lancer un vaste débat sur les circonstances qui pourraient justifier d'éventuelles exceptions à l'avenir. »

Quid de l’avenir ? La France va accueillir - sauf nouvelle pandémie et autre catastrophe naturelle ou humaine - la Coupe du monde de rugby en 2023 et, en 2024, les JO à Paris. Il serait temps de réfléchir – ne serait-ce qu’en matière de souveraineté - aux solutions technologiques qui seront déployées et utilisées pour assurer la sécurité de tous les participants de ces événements qui, de toute manière, et quoiqu’il advienne, focaliseront l’attention du monde sur la France…