Quand même l’ONU s'inquiète des dangers de l'intelligence artificielle...

En avril 2021, la Commission européenne dévoilait son projet de règlement encadrant les usages à risque de l’intelligence artificielle. Elle tentait une approche fondée sur les risques en introduisant une distinction entre les utilisations de l’IA qui créent un risque inacceptable, un risque élevé et un risque faible ou minimal pour la santé, la sécurité ou les droits fondamentaux des personnes physiques. Les premières sont interdites, tandis que les autres sont autorisées, sous réserve du respect de certaines exigences.

Dès la sortie de ce projet, le Comité européen de la protection des données regrettait que le texte n’interdise pas complètement sur l’espace public les technologies d’identification biométrique à distance, notamment la reconnaissance faciale en rue.

Le modèle chinois en ligne de mire

Dans le viseur : les systèmes dits «à la chinoise» où des millions de caméras filment et identifient en temps réel quiconque circule sur l’espace public. Les images sont notamment utilisées afin d’établir le fameux «score de crédit social» : si une caméra surprend quelqu’un en train de traverser en dehors des passages cloutés, elle enlève automatiquement des points au citoyen concerné.

Le crédit social fonctionne sur la base d’un système de sanctions graduées dont la sévérité augmente à mesure que les points diminuent. Le citoyen est petit à petit privé de droits : postuler dans la fonction publique, obtenir un crédit bancaire, s’inscrire pour l’obtention d’un logement social, etc. À l’extrême, c’est une forme de bannissement social qui est organisée.

Très sensible aux arguments des États qui invoquent la lutte contre le terrorisme pour justifier les technologies d’identification et de suivi en temps réel, y compris sur l’espace public, la Commission européenne n’a jamais voulu franchir le pas de l’interdiction.

C’est donc une voix supplémentaire qui s’exprime, et pas n’importe laquelle puisque le très officiel Haut-Commissariat des Nations unies aux droits de l’homme s’inquiète.

La Haute-Commissaire, Michelle Bachelet, admet bien volontiers que «l'IA peut être bénéfique, en aidant les sociétés à surmonter certains des grands défis de notre époque» mais elle souligne aussitôt que «les technologies de l’IA peuvent avoir des effets négatifs, voire catastrophiques, si elles ne tiennent pas suffisamment compte de la manière dont elles affectent les droits de l’homme».

Le Haut-Commissariat s’était donc donné pour tâche de dresser un rapport qui analyse la manière dont l’IA, y compris le profilage, impacte, notamment, les droits à la vie privée, à la santé, à l’éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d’association, et à la liberté d’expression.

Vers un moratoire sur la reconnaissance faciale?

Selon le rapport, la complexité des systèmes d’IA, ainsi que la dissimulation intentionnelle d’informations de la part des acteurs gouvernementaux et privés empêchent le public de comprendre véritablement les effets des systèmes d’IA sur la société et les droits de l’homme.

La Haute-Commissaire insiste : «L’utilité de l’IA pour la population est indéniable, mais la capacité de l’IA à alimenter les violations des droits de l’homme à une échelle colossale et pratiquement sans visibilité l’est tout autant. Il faut agir dès maintenant pour mettre en place des protections en matière de droits de l’homme quant à l’utilisation de l’IA, pour le bien de tous».

L’agence onusienne émet plusieurs recommandations, dont une qui fait particulièrement parler d’elle. Il s’agit d’imposer un moratoire sur la reconnaissance faciale dans les lieux publics.

Etienne Wéry
Avocat associé Ulys