ACTUALITÉ SCIENTIFIQUE
ET INNOVATION DE L'ÉTS
Un miroir biométrique pour s’interroger sur l’éthique liée à l’IA - Par : Hanen Hattab,

Un miroir biométrique pour s’interroger sur l’éthique liée à l’IA


Hanen Hattab
Hanen Hattab est doctorante en sémiologie à l’UQAM. Ses recherches portent sur les pratiques d’art et de design subversifs et contre culturels comme le vandalisme artistique, le sabotage et les détournements culturels.

Miroir biométrique

L’image d’en-tête a été achetée sur Istock.com et est protégée par des droits d’auteurs.

Des chercheurs de l’Université de Melbourne ont créé un miroir qui fait l’inverse de ce qu’on attend de lui. C’est plutôt lui qui nous regarde, voire même nous scrute de l’intérieur. L’équipe a créé un système qui peut déduire, à partir des traits du visage d’une personne, ses caractéristiques physiques et psychologiques. Elle l’a baptisé le miroir biométrique. Il s’agit d’une application interactive dont le but est d’amener les gens à prendre conscience de certains usages actuels et futurs de l’intelligence artificielle. Le projet a été réalisé en collaboration avec la Science Gallery Melbourne et sera exposé l’année prochaine.

Fonctionnement et système du miroir

La technologie est munie d’un écran et d’un appareil qui prend en photo la personne placée en face d’elle afin d’analyser les traits de son visage. Elle déploie pour ce faire un algorithme qui permet de révéler 14 caractéristiques de la personnalité. En plus de l’âge, du sexe et du groupe ethnique, le miroir dévoile le profil psychologique et interpersonnel. Les traits psychologiques comme la sociabilité, l’introversion, la bonté ou l’agressivité sont quantifiés de faible, moyen ou élevé.

Plus la personne reste longtemps devant le miroir, plus le système fournit des caractéristiques sur son profil psychologique. En effet, la caméra continue de capter des images afin d’analyser les réactions obtenues à la suite de questions. Les résultats s’affichent ainsi au fur et à mesure sur l’écran.

L’algorithme analyse les photos prises des participants à partir d’une base de données. Celle-ci comporte des milliers de portraits de personnes préalablement annotés par des répondants qui ont participé à l’étude et dont les observations ont été effectuées suivant des procédures psychométriques. Quand une personne se place devant le miroir biométrique, les traits et les mimiques de son visage sont comparés aux données du système.

Un concept de sensibilisation sociale

À quoi ce système est-il utile? Ce n’est pas difficile d’imaginer les applications du miroir biométrique : on pense au profilage criminel comme aux jeux de développement personnel. Or bien au contraire, l’idée est de penser aux inconvénients d’une telle percée technologique.

Selon Niels Wouters, post-doctorant au Microsoft Research Centre for Social Natural User Interfaces à la Melbourne School of Engineering et auteur principal de l’étude, l’intelligence artificielle utilisée par le système est précise et fonctionne convenablement. Par contre, elle ne donne pas des résultats exacts parce que son analyse est basée sur des jugements personnels. En effet, les observations psychotechniques sont des informations subjectives qui ne correspondent pas réellement à la personne, mais plutôt aux impressions qu’elle donne aux autres.

En effet, l’application a pour objectif principal de souligner l’urgence du débat sur l’éthique et l’intelligence artificielle, un sujet souvent réservé aux spécialistes et sur lequel le public n’a pas souvent l’occasion de donner son avis. Le chercheur souligne notamment que les technologies de reconnaissance faciale figurent dans certains projets de sécurité urbaine de plusieurs pays comme la Chine et la Cité de Perth, en Australie.

L’étude veut mettre en exergue la main mise des technologies de traitement des données massives sur la vie privée. Les systèmes d’intelligence artificielle analysent les comportements des utilisateurs d’internet et des espaces publics afin d’identifier des modèles et de proposer des technologies de prédiction.

Afin de sensibiliser les participants qui utiliseront le miroir biométrique, le système est programmé pour poser des questions embarrassantes comme :

  • Que ressentiriez-vous si vos caractéristiques étaient divulguées?
  • Comment vous sentiriez-vous si vous appreniez que vous n’avez pas obtenu un emploi parce que l’intelligence artificielle vous a attribué un niveau de confiance faible?
  • Comment réagiriez-vous si les autorités vous considéraient comme étant une personne potentiellement agressive?

Une expérience à suivre!

Hanen Hattab

Profil de l'auteur(e)

Hanen Hattab est doctorante en sémiologie à l’UQAM. Ses recherches portent sur les pratiques d’art et de design subversifs et contre culturels comme le vandalisme artistique, le sabotage et les détournements culturels.

Profil de l'auteur(e)


commentaires

    Laisser un commentaire

    Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *