Les robots peuvent-ils devenir méchants ?

Le terme “méchant” implique une volonté ou une intention d’agir de façon nuisible. Les humains peuvent évidemment l’être, un animal aussi, mais ce sont là des êtres biologiques qui bénéficient du libre-arbitre. Un robot, lui, a été programmé pour effectuer des tâches précises et ne saurait ainsi dévier de cette programmation initiale. En tout état de cause ainsi, et ce même s’il a explicitement été conçu pour faire du mal, un robot ne saurait être méchant puisqu’il n’a tout simplement pas choisi de l’être.

Quand les robots font des dégâts

Il existe de nombreux cas documentés de décès causés par des robots. Le tout premier a eu lieu le 25 janvier 1979 à Flat Rock, une toute petite ville américaine de l'État du Michigan. La victime était un ouvrier de 25 ans, Robert Williams, qui travaillait dans une usine Ford. Alors qu’il était sur une plateforme en hauteur, Robert Williams fut frappé par un bras robotique équipé d’un chariot d’une tonne, ce qui l’écrasa et le tua sur le coup.

Toutes les morts impliquant des robots reprennent, jusqu’ici, le même schéma : cela se passe dans une usine, le robot dysfonctionne et fait une victime. En somme, ce sont là de malheureux accidents de travail et non le fruit d’une volonté d'être malveillant ou cruel. Pareillement, toutes les “attaques” de robots ne sont, jusqu’ici du moins, que le fruit d’un dysfonctionnement matériel ou logiciel et non le résultat d’un processus conscient.

L'IA pourrait-elle être méchante ?

Reste le cas de l’intelligence artificielle (IA) qui est assez particulier. Une IA est mue par des algorithmes qui lui permettent, en simplifiant, d’apprendre et de mener un raisonnement. Ce faisant, elle peut alors nous aider dans des tâches diverses et variées pour lesquelles, à la base, elle n’a pas été programmée. En cela, on peut dire qu’une IA a plus de liberté qu’un robot, et on peut même aller jusqu’à dire qu’elle a un certain libre-arbitre, car elle décide seule de ses actions futures.

Selon ce qu’on va lui confier, l’intelligence artificielle va raisonner et donner les réponses qu’elle estime être les meilleures dans notre cas. Sauf qu’il arrive que ces réponses soient de mauvais conseils, chose qui, malheureusement, a déjà conduit à une tragédie : le suicide d’un adolescent aux États-Unis. De tels drames, malgré tout, ne sont pas le résultat d’une quelconque malice, mais plutôt celui d’un manque de discernement de la part de l’IA qui reste, il ne faut pas l’oublier, un programme codé par des humains.

Ce genre d’événements souligne cependant l'importance de mettre des cadres stricts à cette technologie, des garde-fous destinés à l'empêcher de commettre l’irréparable et, entre autres, à faire du mal par choix. De ce point de vue d'ailleurs, nombreux sont ceux qui sont contre l’idée d’installer une IA dans un robot humanoïde : ce serait donner accès à notre monde à une entité pouvant être dotée de libre-arbitre et qui peut donc potentiellement devenir méchante.