ACTUALITÉ SCIENTIFIQUE
ET INNOVATION DE L'ÉTS
Enseigner aux robots à distinguer le bien du mal - Par : Substance,

Enseigner aux robots à distinguer le bien du mal


Image d’entête de Ars Electronica , licence CC, source

Nous avons partagé avec vous dans un article précédent, la nouvelle que Facebook et Google font une incursion marquée sur la scène de l’intelligence artificielle en investissant des sommes importantes dans des projets académiques et des travaux de chercheurs spécialisés dans ce domaine. Mais ce n’est pas tout : voilà maintenant que des chercheurs de plusieurs universités en association avec le département de la marine des États-Unis cherchent à enseigner aux robots à prendre des décisions morales.

Topio, un robot bipède conçu pour jouer au ping-pong avec des humains. Source [Img1]

Topio, un robot bipède conçu pour jouer au tennis de table avec des humains. Source [Img1]

Pour leur enseigner les rudiments de la moralité, ils vont mettre en pratique différentes techniques d’entraînement statistique appliquées à différents scénarios. Un exemple : dans un scénario,  la scène se passe dans un champ de bataille. Un robot-médecin chargé d’aider les soldats blessés est commandé pour transporter des médicaments nécessaires à un autre champ de bataille de façon urgente. En route, il rencontre un soldat avec une fracture de la jambe. Doit-il interrompre sa mission pour aider le blessé? Quelle est la bonne décision?

Le robot Gort du film «Le jour où la Terre s'arrêta» produit en 1951. Source [Img2].

Le robot Gort du film «Le jour où la Terre s’arrêta» produit en 1951. Source [Img2].

Ce projet est géré par l’Office of Naval Research (ONR) des États-Unis, le bureau de recherche navale du Département de la Marine des États-Unis. Ce bureau coordonne des programmes scientifiques et technologiques dans les écoles, les universités et les laboratoires de recherches gouvernementaux. Ce projet se réalise en coordination avec l’Université Tufts située à Medford, Massachusetts, l’Université Brown située à Providence, Rhode Island, et le Rensselaer Polytechnic Institute de New York. Ces différentes institutions vont explorer les défis que représentent l’enseignement  du bien, du mal et des conséquences résultantes, soit enseigner la compétence morale à des robots autonomes. Cette compétence morale englobe la capacité d’apprendre, de raisonner, d’agir et de parler des lois et des conventions sociales sur lesquelles les humains ont tendance à se mettre d’accord.

En espérant que ce projet tienne aussi compte des 3 lois de la robotique élaborés par Isaac Asimov
Gort,

Gagnant du prix Locus, le tome 5 «Terre et Fondation de la série de science-fiction «Fondation» écrit par y Isaac Asimov, Source [Img3]

Gagnant du prix Locus, le tome 5 «Terre et Fondation de la série de science-fiction «Fondation» écrit par y Isaac Asimov, Source [Img3]

Espérons toutefois qu’ils ne leur enseigneront pas la quatrième loi de la robotique de Asimov, aussi appelé la loi zéro :

  • Loi Zéro : Un robot ne peut pas faire de mal à l’humanité, ni, par son inaction, permettre que l’humanité soit blessée.
  • Première Loi : Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger, sauf contradiction avec la Loi Zéro.
  • Deuxième Loi : Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi ou la Loi Zéro.
  • Troisième Loi : Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi ou la Loi Zéro.

Dans ce cas, les robots pourraient avoir le goût de faire ce que le robot Gort planifiait de faire…


 

 

 


commentaires

    Laisser un commentaire

    Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *