Les ROBOTS seront-ils l’avenir ou le tombeau de l’Humanité ?
Je viens de rencontrer une vieille connaissance. Âgée et ayant récemment été renversée sur un passage protégé, il continue pourtant de conduire. « Pas plus de dix kilomètres. Après ça risque d'être dangereux, pour moi...et pour les autres ! » précise-t-il, réaliste et prudent, ajoutant : « J'attends avec impatience la commercialisation des premières voitures sans chauffeur ». Tu risques de ne pas attendre longtemps, l'ami Henry : elles arrivent.
Une enquête récente souligne que les trois quarts des automobilistes pensent que la voiture 100 % autonome sera une réalité dans un avenir proche. Ainsi, « 81 % des automobilistes espèrent en utiliser une avant 10 ans, 52 % se projettent même d’ici à cinq ans », précise l'étude. Espérons que ces voitures-robots saurons t'éviter sur les passages protégés, Henry !
On touche là un vrai problème. Qui est responsable dans un cas pareil ? Le conducteur, comme dans la législation actuelle ? Il n'y en a pas. Le propriétaire du véhicule ? C'est évidemment le plus facile à trouver et à éventuellement attaquer juridiquement ? Mais c'est foncièrement injuste. Le marchand du véhicule ? Le constructeur ? Le concepteur du logiciel ? Pas facile tout ça…
Les robots sont maintenant partout. Les feux rouges qui règlent la circulation ? Des robots. Les DAB qui vous délivrent de l'argent ? Des robots. Les machines qui encaissent votre fric à la sortie de l'autoroute ? Des robots. Les machines qui conçoivent et qui fabriquent les voitures et autres engins ? Des robots.
Çà, c'est une première génération de robots. La voiture intelligente, c'est déjà autre chose. Et les robots humanoïdes de plus en plus sophistiqués qui voient le jour, c'est encore autre chose. Ils intègrent de plus en plus d'intelligence artificielle, sont de plus en plus autonomes. Il existe déjà des robots humanoïdes d'aide à la personne au Japon. Bientôt un amant infatigable ou une maitresse ne prononçant jamais la terrible phrase pourvoyeuse de divorces : « Non pas ce soir, je suis fatiguée... » !
L'intelligence artificielle fait des avancées fulgurantes. Les robots combinent efficacité et économies dans de très nombreux domaines. La production en usine mais aussi le transport, l'agriculture, les soins médicaux, l'éducation. Ils sont aussi les bienvenus dans des opérations de dépollution chimique, radioactive ou autres en évitant d'exposer les humains. Bientôt des robots flics chargés du maintien de l'ordre ? Qui sait. Les robots-soldats sortent bien déjà, discrètement, des cartons.
Mais parallèlement, les robots remplacent l'homme, ils mettent les ouvriers à la porte des usines, les paysans à la porte des étables, les vendeuses à la porte de la grande distribution. En d'autres temps, les métiers à tisser ont provoqué la révolte des canuts. Y aura-t-il une révolte des humains contre les robots ? Ou bien, ces modernes esclaves permettront-ils un nouvel âge d'or équivalent à celui des Grecs ? Chez les anciens Hellènes la production était réservé aux seuls esclaves humains. Les citoyens avaient ainsi le temps, la disposition d'eux-mêmes pour s cultiver, réfléchir, développer les arts, la philosophie, voire la guerre, pourvoyeuse...d'esclaves ! Système foncièrement injuste. Système qui s'est prolongé avec le prolétariat : le plus intelligent des esclavagistes n'est-il pas celui qui a commencé à les payer ? Peu, mais assez pour qu'ils puissent vivre mal et rester attachés à leurs maîtres-patrons… Mais les robots peuvent remplacer sans problèmes moraux les humains dans la plupart des tâches. Corollaire indispensable sous peine de révoltes graves, il reste à inventer et mettre en place des systèmes de captation et de répartition équitables des bénéfices générés par le travail des esclaves-robots. La réflexion est en route avec les divers projets de revenue universel.
Les robots réfléchissent, apprennent, corrigent leurs erreurs. Ils deviennent de plus en plus...humain. Á quand leur prise de conscience de leur propre existence ? Á quand leur possibilité de reproduction ? C'est le progrès. Mouais… Et s'il y avait un bug ? Et si ces robots étaient « hackés », contrôlés à l'insu de leur « propriétaire » par quelqu'un de mal intentionné ? Et s'il leur venait à l'idée de se révolter contre leurs maîtres humains ? Comme Carl 500 (Hal 9000) dans « L'Odyssée de l'espace » ?
Isaac Asimov, le maître de la Science-fiction y a pensé. Il en a établit plusieurs lois fondamentales :
1 - Un robot ne peut attenter à la sécurité d'un être humain, ni, par inaction, permettre qu'un être humain soit mis en danger.
2 - Un robot doit obéir aux ordres d'un être humain, sauf si ces ordres entrent en conflit avec la première loi.
3 - Un robot doit protéger sa propre existence tant que cela n'entre pas en conflit avec la première ou la deuxième loi. (Voir I. Asimov, Cercle vicieux (Runaround, 1942)).
Et puis la loi 0 - Un robot ne peut faire de mal à l'humanité, ni, par inaction, permettre que l'humanité soit mise en danger.
Çà, c'est une autre histoire… Quant aux robots conçus par et pour les militaires, ils le sont avec des programmations rigoureusement opposés. Leur fonction : tuer…
Il serait peut-être temps de règlementer la construction et l'utilisation de ces drôles mais aussi un peu effrayantes machines, non ? On se bouge dans ce sens en hauts lieux.
Ainsi le Syndicat des machines et technologies de production (Symop) a présenté ce mardi 25 octobre 2016 son Livre Blanc « Droit de la Robotique ». C'est le résultat d’un travail collaboratif de plus d’un an entre le SYMOP, un avocat, Alain Bensoussan, président de l'Association du droit des robots, et un ingénieur, Renaud Champion, dirigeant de Primnext et cofondateur du fonds Robolution Capital. Vous pouvez prendre connaissance de ce rapport Symop ICI.
Le Parlement européen travaille également sur le sujet. Un rapport sous la direction de Mady Delvaux préconise :
- que la Commission propose une définition européenne commune des différentes catégories de robots autonomes et intelligents, compte étant tenu des caractéristiques suivantes des robots intelligents (acquisition d'autonomie grâce à des capteurs et/ou à l'échange de données avec l'environnement et inter-connectivité) ; échange et analyse de données, capacité d'auto-apprentissage, présence d'une enveloppe physique, adaptation du comportement et des actes à l'environnement)
- la création d'un registre des robots avancés,
- la mise au point d'un cadre éthique pour la conception, la fabrication et l'utilisation des robots qui complète utilement les recommandations juridiques du présent rapport ainsi que l'acquis national et de l'Union existant ; propose, en annexe à la présente résolution, un tel cadre, sous forme de charte établissant un code de conduite pour les ingénieurs en robotique, une déontologie pour les comités d'éthique de la recherche lorsqu'ils examinent les protocoles de robotique, et un ensemble de licences-type pour les concepteurs et les utilisateurs,
- la création d'une agence européenne pour la robotique et l'intelligence artificielle,
- l'adoption d'une approche équilibrée en matière de droits de propriété intellectuelle et l'introduction, en accord avec les principes de nécessité et de proportionnalité, de garanties de protection de la vie privée et des données lors de l'élaboration de toute politique de l'Union en matière de robotique.
Mais encore, la responsabilité civile des robots étant une question cruciale, face à la complexité de l'imputabilité des dommages causés par des robots de plus en plus autonomes, il convient de travailler à la mise en place d'un régime d'assurance obligatoire. Mais également, la création d'un numéro d'immatriculation individuel, inscrit dans un registre spécifique de l'Union, afin de pouvoir toujours associer un robot au fonds dont il dépend ; ce numéro permettrait à toute personne interagissant avec le robot de connaître la nature du fonds, les limites en matière de responsabilité en cas de dommages matériels, les noms et les fonctions des contributeurs et toute autre information pertinente.
Enfin, est évoquée la création d'une personnalité juridique spécifique aux robots, pour qu'au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques dotées de droits et de devoirs bien précis, y compris celui de réparer tout dommage causé à un tiers ; serait considéré comme une personne électronique tout robot qui prend des décisions autonomes de manière intelligente ou qui interagit de manière indépendante avec des tiers.
Ce rapport Delvaux devrait être débattu en commission parlementaire le 12 décembre 2016 et voté en plénière début 2017.
Comme on peut le voir, les ROBOTS sont une affaire (importante !) à suivre !
Sources :
https://www.alain-bensoussan.com/wp-content/uploads/2016/10/20161005.pdf
http://www.symop.com/wp-content/uploads/2016/10/LivreBlanc_Robotique_symop_BD.pdf
http://www.usine-digitale.fr/article/quand-le-droit-des-robots-se-construit-a-bruxelles.N446037
http://dailygeekshow.com/robot-ethique-aide-humain/
Photo X - Droits réservés
38 réactions à cet article
Ajouter une réaction
Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page
Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.
FAIRE UN DON