Et si la prophétie annoncée de si nombreuses fois par Hollywood se produisait vraiment ? Et si l’humanité toute entière était anéantie par des robots destructeurs et sans pitié ? Dans un article paru dans The Journal of Experimental Theoretical Artificial Intelligence et relayé par Business Insider, le scientifique Steve Omohundro assure que les robots autonomes du futur “sont susceptibles d’agir de manière antisociale et dangereuse à moins qu’ils soient conçus avec beaucoup de précautions”.

Les robots autonomes seront bientôt “approximativement rationnels”. Autrement dit : ils disposeront d’un niveau de conscience de leurs buts sans précédent et pourront prendre des initiatives afin de les atteindre au mieux. L’exemple type en la matière est HAL, le puissant ordinateur doté d’intelligence artificielle qui gère le vaisseau spatial Discovery One dans la saga des Odyssées de l’espace d’Arthur C.Clarke. Dans l’adaptation cinématographique 2001, l’Odyssée de l’espace de Stanley Kubrick, quand HAL découvre que les astronautes à bord de son vaisseau ont prévu de le remplacer à cause d’une défaillance, il les tue. Ni plus ni moins.

Rassurez-vous, Steve Omohundro ne va pas jusqu’à prédire un tel scénario. Il préfère donner l’exemple d’un robot joueurs d’échecs, doté de cette fameuse”rationalité approximative”. Quand les roboticiens sont interrogés sur la sécurité de leurs “jouets”, ils ont pour habitude de répondre : “Nous pouvons toujours le décharger ! ” en cas de problème. Mais imaginez cette solution envisagée du point du vue du robot joueur d’échecs, demande Steve Omohundro. Pour la machine, un futur où elle est déchargée est un futur où elle ne pourra plus jamais ni gagner ni perdre aux échecs. C’est pourquoi, dans une volonté d’utilisation maximale, le robot va automatiquement se défendre contre tout déchargement. (…)lire la suite sur Atlantico

Innovation : la traite des vaches peut désormais être faite par des robots
Tous des robots : l’informatique corporelle pourrait-elle nous rendre immortels ?