Quelle sont les x lois de la robotique ?

Les trois lois de la robotique d’Assimov, sont actuellement connues et n’ont pas changé depuis plusieurs années :

• Un robot ne fera pas de mal à un être humain ou, par inaction, ne permettra pas à un être humain de se faire du mal.
• Un robot doit se conformer aux ordres donnés par les êtres humains, sauf ceux qui sont contraires à la première loi.
• Un robot doit protéger sa propre existence dans la mesure où cette protection n’entre pas en conflit avec la première ou la deuxième loi.”

Les Lois de la robotique. Vont-ils fonctionner dans le monde réel ?

Les 3 lois de la robotique sont l’une des déclarations les plus connues de l’histoire de la science-fiction et ont été prises à de nombreuses reprises comme référence pour spéculer sur la façon dont nous devrions créer des êtres intelligents sans qu’ils finissent par nous nuire ou même nous détruire.

Formulées en 1942 dans le conte «Runaround» du célèbre écrivain Isaac Asimov, les 3 lois de la robotique sont entrées dans l’imaginaire collectif, au point que beaucoup de gens pensent qu’une formulation exacte de celles-ci pourrait nous protéger contre un hypothétique « rébellion des robots ».

Cependant, les choses ne sont pas aussi simples qu’elles le paraissent. Dans cet article, nous allons savoir quelles sont les lois de la robotique et pourquoi elles ne fonctionneraient pas si elles devaient être appliquées dans le monde réel.

Les lois de la robotique

1. Un robot ne fera pas de mal à un humain ou, par inaction, ne permettra pas à un humain de se faire du mal.
2. Un robot doit se conformer aux ordres donnés par les êtres humains, sauf ceux qui sont contraires à la première loi.
3. Un robot doit protéger sa propre existence dans la mesure où cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Ces trois préceptes sont non seulement apparus dans «Runaround», mais ont été évoqués à plusieurs reprises dans différentes histoires d’Asimov, et même dans de nombreux ouvrages ultérieurs écrits par d’autres auteurs.

Selon Asimov lui-même, le but des 3 lois dans la fiction serait d’empêcher une éventuelle rébellion des robots. Ainsi, dans le cas où l’un d’eux tenterait d’enfreindre l’une des lois, le cerveau électronique du robot serait endommagé et celui-ci « mourrait ».

Cependant, si nous savons quelque chose, c’est que la réalité est très complexe et qu’il est impossible de la subsumer dans des énoncés simples. Et ce n’était pas quelque chose d’ignoré par Asimov, loin de là. Au contraire, dans certaines de ses histoires ultérieures, il poserait des situations dans lesquelles les 3 lois pourraient entrer en conflit.

C’était l’une des raisons pour lesquelles, dans le roman “Robots and Empire” de 1985, Asimov inclurait une 4e loi, appelée la loi zéro de la robotique :

1. “Un robot ne nuira pas à l’Humanité ou, par son inaction, ne permettra pas à l’Humanité de se faire du mal.”

Cette Loi Zéro a en effet été conçue pour prévaloir sur les autres lois de la robotique, afin de résoudre d’éventuels conflits. Cependant, elle rencontrerait aussi de sérieux obstacles « dans la pratique ».

Les Lois de la robotique et la vraie vie :

Imaginez qu’à un moment donné, nous ayons pu développer des robots intelligents. Et imaginez que nous utilisions les 4 lois de la robotique d’Asimov pour contrôler son comportement. À quoi pouvions-nous nous attendre ?

Probablement, nous nous retrouverions avec un échec retentissant.

Et ce n’est pas qu’Asimov n’ait pas été assez habile pour les formuler (bien au contraire !), mais plutôt que c’étaient des filles de leur époque, et qui plus est, elles ont essayé de contrôler quelque chose qui est peut-être incontrôlable

Les lois de la robotique, surtout les 3 premières, ont été créées dans un contexte où l’informatique venait de commencer son voyage et où l’Intelligence Artificielle était un concept purement circonscrit à la science-fiction.

Pour cette raison, l’approche d’Asimov était celle de la prédétermination des actes des robots. Tout son comportement serait prévu à travers une programmation exhaustive avec laquelle il essaierait de contrôler chaque détail.

Cependant, Asimov lui-même nous a déjà avertis dans ses histoires des dilemmes que cela pourrait entraîner. La réalité est extrêmement complexe et des situations conflictuelles peuvent se produire régulièrement. Mais pas seulement ça.

Au cours des dernières décennies, et surtout ces dernières années, le concept d’intelligence artificielle a été étroitement lié à ce que nous appelons l’apprentissage automatique.

Cette technique permet, très grossièrement, aux programmes d’apprendre de l’expérience de manière plus ou moins autonome. Ainsi, ils vivent à plusieurs reprises certains types de situations, après quoi ils extraient des modèles qu’ils utiliseront pour atteindre un objectif spécifique. C’est la technique par laquelle certains programmes apprennent à identifier des images, à conduire des véhicules ou à comprendre le langage humain naturel.

Cela nous fait penser que, si nous parvenions à développer une Intelligence Artificielle Générale, comme celle que propose Asimov, elle ne serait pas complètement programmable, mais serait capable d’apprendre à partir de sa propre expérience et d’en tirer ses propres conclusions.

Ainsi, il convient de se demander, les lois de la robotique seraient-elles capables de contrôler le comportement d’une Intelligence Artificielle développée sur la base des principes de l’apprentissage automatique ? Cela semble difficile à dire.

Bien qu’il s’agisse d’hypothèses, de nombreux auteurs pensent qu’une fois atteint le développement de l’Intelligence Générale Artificielle, celle-ci serait capable de continuer à évoluer, de devenir de plus en plus intelligente et dépassant largement les capacités de l’être humain.

Une intelligence aussi puissante ne serait-elle pas capable de trouver des failles dans son code afin d’enfreindre des lois préprogrammées ? Par exemple, il n’est pas difficile d’imaginer qu’avec le temps, cela pourrait annuler les mécanismes développés pour s’autodétruire en cas de non-respect des lois.

Nonobstant ce qui précède, la vérité est que les débats qu’Isaac Asimov a soulevés à travers ses lois de la robotique sont toujours valables aujourd’hui et pourraient recevoir beaucoup d’attention, près d’un siècle après les avoir exprimés dans ses histoires. Presque rien! N’importe quel écrivain serait fier de nous faire imaginer autant et depuis si longtemps.