Voici Norman, la première intelligence artificielle psychopathe au monde

12 Juin, 2018, 14:20 | Auteur: Lynn Cook
  • Voici Norman, la première intelligence artificielle psychopathe créée par des scientifiques

À travers la création de cette IA, les chercheurs du MIT ont informé quils navaient pas l'intention de créer réellement une IA morbide, mais plutôt attirer lattention sur les problèmes de biais des intelligences artificielles.

L'état de psychopathe de Norman n'est pas une fatalité.

"Voici Norman, la première intelligence artificielle psychopathe au monde.", ainsi se présente l'expérience de "l'un peu folle" équipe du Massachusetts Institute of Technology (MIT) chargé d'élaborer des projets pour le compte du département "Scalable Cooperation". Si d'habitude, les intelligences artificielles conçues pour interpréter et reconnaître des images bénéficient d'un entraînement classique, Norman lui a été éduqué sur base de données bien particulières dégotées sur le site communautaire Reddit.

Ses réactions par la suite été observées en lui faisant passer le test de Rorschach (le fameux test des taches d'encre). Autant dire que les interprétations diffèrent quelque peu. Vue de Norman: " Un homme qui se jette par la fenêtre ". Tandis quune IA normale elle est souvent nourrie de lots de photos généralistes et très variées. Là où une IA traditionnelle voit "Un gros plan d'un gâteau de mariage sur une table", Norman imagine "Un homme tué par un conducteur roulant trop vite".

IA: "Une personne qui vole grâce à un parapluie".

Justement, puisque Norman na été nourri que dimages spécifiques traitant du thème de la mort et accompagnées de descriptions tout aussi choquantes, son interprétation sest formée sur une seule réalité, celle de la mort.

IA: "Une photo en noir et blanc d'un gant de baseball". Dans la première image, lIA y perçoit "un homme électrocuté jusquà en mourir", contrairement à une IA “normale” qui y voit un "groupe doiseaux posés sur une branche darbre ". Les chercheurs veulent mettre en garde sur la façon dont un algorithme capte les données et comment ces dernières peuvent l'influencer dans sa construction. En effet, dans ces expériences les deux IA avaient exactement le même algorithme leur permettant d'analyser et d'assimiler des contenus graphiques. Lorsqu'une IA possède un jugement tordu, qu'il soit raciste, sexiste ou quoi que ce soit de déviant, son algorithme est souvent pointé du doigt. Il peut éventuellement être sauvé par la contribution des internautes.

Au final, quand Norman passe le test de Rorschach, ses interprétations sont toutes teintées de violence.

Recommande: