Fermer

  • AgoraVox sur Twitter
  • RSS
  • Agoravox TV
  • Agoravox Mobile

Accueil du site > Actualités > Technologies > Le mythe du robot qui menace l’Homme

Le mythe du robot qui menace l’Homme

Un robot, c’est quoi au juste ? Un outil créé par l’Homme afin de résoudre des choses que son corps a du mal à accomplir. En tant que tel, il entre dans la même catégorie que la fourchette, le lave-vaisselle, la fusée, etc. Un robot se compose d’une structure mécanique mobile, de capteurs, de fils, de microprocesseurs et d’un logiciel. Il ressemble à s’y méprendre à un ordinateur, comme celui que tout un chacun a sur son bureau. La différence, c’est qu’il peut bouger et percevoir des choses du dehors. Maintenant, qui pourrait imaginer que ce même ordinateur puisse acquérir un jour une conscience le long de ses circuits et qu’il puisse vouloir se débarrasser de son utilisateur. Hmm…. Si quelqu’un affirmait cela, il passerait pour un attardé pas vrai ? Pourtant, dès lors que l’on parle du robot, la chose est affirmée par des gens respectables…

Le péché originel se situe clairement dans le travail d’accoutumance perpétré par la littérature et le cinéma. En réalité, les écrivains et cinéastes de science-fiction ont sans doute commis une erreur monumentale en plaçant la barre incroyablement trop haut en matière de promesses de la robotique. Machine animée par l’Intelligence Artificielle, le robot a eu dès ses premières heures une forme humaine : une tête, un ventre, deux bras, deux jambes… Fort naturellement, les auteurs de fictions n’ont pas manqué de fabuler sur les potentiels d’un tel appareil à forme humanoïde et lui ont prêté la faculté de penser, d’avoir des émotions, une sensibilité, une conscience de soi et une intelligence démesurée. L’imaginaire est allé loin, très loin, beaucoup plus loin que la technologie ne semble pouvoir le permettre avant plusieurs décennies ou siècles. Dans le monde réel, l’on cherche en vain le moindre robot capable du centième des prouesses de ceux dépeints par Asimov ou les émules de C3PO et R2D2. Quatre vingt dix ans après l’apparition du mythe, la science n’a nullement réussi à relever le défi posé par les dramaturges. Peut-être aussi s’agissait-il d’un défi qui n’a pas lieu d’être…

Les romans et saga cinématographiques ont néanmoins distillé deux idées majeures dans la psyché collective :

. celle qu’un robot serait l’équivalent physique et psychique d’un super humain dénué de tout défaut, une entité rendant ridicule cette petite chose faillible qu’est l’Homme.

. celle d’un robot que son intelligence guide tôt ou tard vers une solution ultime : combattre l’Homme, cette créature qui l’a précédé et mieux encore le supprimer.

Dès l’apparition du robot dans la pièce R.U.R de Karel Capek en 1921 le ton a été donné : les esclaves de métal se révoltent contre leur oppresseur humain et en viennent à l’éliminer ! Mauvais départ. Cinq années plus tard, Fritz Lang en rajoute une couche : le robot féminin qu’il met en scène dans Metropolis est une créature perfide, qui vise à tromper les fragiles humains.

La littérature et le cinéma de série B qui se sont développés dans les années 30 et 40 n’a cessé de marteler ce même fantasme au risque de mettre en scène des scénarios frisant l’infantilisme, trop heureux d’enfourcher le mythe d’Adam et Eve revu et corrigé à la sauce automate : l’Homme est puni d’avoir voulu se prendre pour Dieu. 

Rendons grâce à Asimov d’avoir ouvert une autre voie d’un robot programmé pour servir l’Homme jusqu’à l’auto-sacrifice de sa quincaillerie. Pourtant, le physicien russe a lui-même contribué à ancrer l’idée d’un robot idéalisé, sorte de super-humain, aussi intelligent que sage et intentionné.

Dans la pratique, l’on retrouve encore et toujours ce mythe du robot de forme humanoïde qui transcende son modèle dans plusieurs scénarios récents les mettant en scène. Le plus étonnant, c’est qu’ils renferment d’étonnantes failles logiques. Examinons l’intrigue de I-Robot, ultra classique pour le genre : nous y voyons les robots prendre le pouvoir au détriment de l’Homme jugé trop dangereux dans ses comportements. Etrangement, dans le monde où évolue le policier joué par Will Smith, il n’existe qu’une seule entreprise qui fabrique des robots. Une seule en tout et pour tout. Il est donc possible pour cette entreprise de mettre à jour tous les robots en usage du jour au lendemain. Le plus incohérent dans ce film, c’est qu’un ordinateur gigantesque dirige la ville, un ordinateur comme en imaginaient les auteurs de science-fiction dans les années 50, qui avaient pour modèle, les gigantesques Univac et IBM de l’époque et se sont montrés incapables de prévoir que ces machines allaient se miniaturiser à l’extrême. En clair, l’intrigue de I Robot est irréaliste, dépassée et au mieux risible. Intelligence Artificielle de Spielberg ne vaut hélas guère mieux.

En dépit de scénarios accumulant les illogismes, le cinéma et la littérature ont cultivé des mythes et les ont rendus réalistes. Aujourd’hui si l’on opère un sondage dans la population, l’on découvre que les idées cités plus haut se sont ancrées dans la subjectivité commune. Monsieur Tout-le-Monde est persuadé que le robot est le futur de l’Homme et qu’il pourrait bien tôt ou tard glisser l’entité « Homme » vers la Corbeille.

 

Va pour la fiction. Qu’en est-il dans le réel ? La réalité des robots est très loin d’être à la hauteur des robots à l’instinct maternel qu’Asimov avait projeté pour l’année 1996 ou des répliquants surdoués rêvés par Philip K. Dick.

En réalité, les fans de robotique sont allés de déception en déception depuis le début du millenium. Vers la fin 1989, un émissaire de Sony était venu présenter le chien Aibo avec un message : « Les années 80 ont été celles du micro-ordinateur, les années 90 celles d’Internet, la décennie 2000 sera celle du robot ». Il n’en a rien été. Dès janvier 2006, Aibo avait été rayé de la carte, le nouveau président de Sony ayant jugé l’activité trop peu rentable. Comme équivalent des stars de l’Internet qu’ont été Yahoo !, Google ou Amazon, il a fallu se contenter de l’aspirateur autonome Roomba et du jouet Robosapiens. Un peu court jeune homme.

Qu’on se le dise : en matière de robotique, la réalité n’a jusqu’alors jamais rattrapé les prévisions mirobolantes de ses zélateurs. Une telle lenteur d’évolution a de quoi surprendre car les deux points de comparaisons précités (micro-ordinateur et Internet) nous avaient habitués à une vitesse de mutation échevelée. À titre d’exemple, l’Altair premier micro-ordinateur (1975) était une sorte de caisse avec quelques diodes lumineuses. Deux ans plus tard, Steve Jobs et Steve Wozniak sortaient l’Apple 2 avec un écran et un clavier. Dès 1984, nous avions droit au Macintosh avec sa souris, son interface graphique et des logiciels à la MacPaint…

Chez les robots, nous sommes loin d’une telle prouesse. Les produits commercialisables, ils apparaissent encore à une allure de limace. Et lorsque l’on compare l’Asimo balourd que Honda le ballade dans les foires à la fin de la première décennie et celui que ce même constructeur exposait au public en 2000, le saut qualitatif a clairement de quoi nous laisser sur la faim. Rien à voir avec celui qui séparait l’Apple 2 au Macintosh.

Où se situe la différence ? Dans le fait que l’informatique doit désormais se frotter aux dures lois de la mécanique. Aussi longtemps que les scènes se déroulent sur un écran, l’émerveillement est de mise et il est aisé de s’extasier sur les visuels d’un jeu à la Final Fantasy. C’est de la belle cinématique, cela ressemble à des décors en trois dimensions avec ombres et profondeurs. Pourtant, l’action se situe toujours dans un univers en deux dimensions, celui de l’écran.

La robotique est le premier domaine qui voit l’informatique entrer dans une vraie 3D, la troisième dimension de l’espace où nous nous déplaçons nous-mêmes, de nos immeubles avec escaliers, de nos sols glissants et chemins bosselés, tout en côtoyant allègrement animaux domestiques et autres humains. Les roboticiens ont la dure tâche qui consiste à animer de la mécanique : des membres articulés, des fils, des boulons… Ils se retrouvent devant des équations d’une toute autre complexité que celle nécessaire pour animer des personnages faits de pixels. N’oublions pas qu’il a fallu une bonne dizaine d’années à Honda pour simplement faire marcher un robot sur ses deux jambes et que ledit robot avait davantage l’allure d’un cosmonaute groggy que d’un humain. Lorsque cet ancêtre de Asimo a fait ses premiers pas, le mythe du robot successeur de l’Homme a pris un sacré coup dans l’aile.

Une telle difficulté à animer une machine pensante aurait dû rendre les roboticiens globalement humbles et mesurés. Pourtant, nous découvrons avec stupeur que les deux mêmes hypothèses évoquées plus haut (le robot humanoïde qui acquiert une conscience et en vient à se débarrasser de l’Homme) sont portées par certains roboticiens de renom !… Que faut-il en penser ?

Certes, de nombreux roboticiens évoluent dans un monde irréel. Dans leurs laboratoires, au milieu de quincailleries motorisées et souvent disgracieuses, ils imaginent volontiers des émules de la Maria de Metropolis ou de C3PO, le majordome un peu gauche de Star Wars. Une telle déconnexion du réel a une incidence précise : régulièrement, les têtes pensants se lancent dans des prédictions, qui la plupart du temps ne se vérifient pas. Ils étaient nombreux à voir la femme de ménage humanoïde débarquer dans le foyer vers le début du millenium. On attend toujours la Cyber-Conchita, son tablier de cuisine noué, aussi à l’aise à mijoter de bons petits plats que de changer les draps.

En réalité, la supercherie primale remonte à une discipline, née en 1956 et appelée Intelligence Artificielle. Citons l’une des perles énoncées par l’un des ténors du domaine, Herbert Simon dans les années 60 :

« Dès 1985, les machines seront capables d’accomplir n’importe quel travail qu’un humain puisse effectuer ».

Hmm… Voilà qui s’appelle de la prophétie excessive ou tout au mieux une approche marketing habile pour obtenir de plantureux budgets de recherche. Quoiqu’il en soit, les théoriciens de l’Intelligence Artificielle ont suffisamment créé de fumée pour qu’un cinéaste comme Stanley Kubrick, influencé par ce courant dépeigne l’ordinateur HAL à la façon d’un être pensant et jaloux de l’Homme.

« Aucun des scientifiques réunis à Dartmouth durant l’été 1956 en vue de définir les fondements de l’Intelligence Artificielle n’imaginait que quarante ans plus tard, on aurait si peu avancé  », a reconnu en 1996 avec beaucoup d’honnêteté le chercheur Douglas Lenat qui oeuvrait pourtant à créer un logiciel capable de simuler la pensée humaine.

En dépit d’une telle lenteur dans l’évolution du domaine, certains roboticiens font preuve d’une fantastique inclinaison à extrapoler. Une théorie a ainsi vu le jour dans des cercles scientifiques pourtant respectables : l’idée, comme quoi, un beau matin, les robots allaient voir émerger en eux une conscience. Il s’ensuivrait une conséquence logique : cette machine doté de puces et de bras métallique verrait naître en elle ¾ comme dans la science-fiction de série B des années 30 ! - une furieuse impulsion de se débarrasser de son créateur, le vil homo sapiens. C’est couru, disent ces spécialistes. L’Intelligence Artificielle en aura décidé ainsi.

Certes, de nombreux roboticiens savent garder leur distance vis-à-vis de telles élucubrations. Lorsque nous lui demandons si un robot pourrait devenir si brillant qu’il en viendrait à surpasser son modèle, Rodolphe Gélin, roboticien au CEA, affiche son scepticisme :

« Si l’on s’en tient au niveau scientifique, pour l’instant ce sont des fariboles. »

Quid de la fameuse conscience qui pourrait un jour émerger de ces unités de calculs à en croire certains roboticiens anglo-saxons ? Gélin y voit une orientation à risque :

« La conscience réside dans l’être humain. Ce serait un axe de mauvaise recherche que de se délester de la responsabilité humaine. »

Bernard Espiau, directeur scientifique adjoint à l’INRIA va plus loin et soulève le problème de l’éthique du chercheur en robotique.

« Les choses progressent mais ne promettons pas ce que l’on n’est pas capable de tenir. Les roboticiens devraient être plus prudents dans leurs prétentions ! Lorsque l’on parle de conscience pour les robots, on utilise la métaphore du vivant alors que le robot n’en sera jamais capable. L’on crée ainsi des attentes chez les gens qu’ils ne pourront accomplir. »

Pourtant, d’autres roboticiens et non des moindres s’autorisent d’ambitieuses théories vis à vis des machines qu’ils côtoient jour après jour. Un même refrain revient dans la bouche de Hugo de Garris, Kevin Warwick ou Hans Moravec, tous ingénieurs reconnus en robotique : les robots vont non seulement dépasser l’Homme mais aussi se dispenser de ce prototype imparfait de l’évolution chère à Darwin. Etant donné la superficialité de bien des médias avides de sensationnels, ces oiseaux de piètre augure trouvent aisément des relais à leurs prophéties et de ce fait, la hantise du robot menaçant l’Homme est régulièrement avivée dans le grand public.

Examinons la thèse la plus flamboyante, celle de Hans Moravec, qui a longtemps été professeur à l’Institut de robotique de l’université de Carnegie Mellon avant de s’en aller fonder en 2003, sa propre société de robotique, Seegrid, une entreprise visant au développement de robots totalement autonomes. Que nous dit-il ?

 « La race humaine telle que nous la connaissons sera bientôt remplacée par ses propres créations. Lorsque nous aurons construit des machines capables de se comporter comme des humains, elles pourront accomplir tout ce que nous savons faire, bien mieux et plus rapidement. Et comme elles sauront concevoir elles-mêmes les futures générations de machines, leurs successeurs seront plus rapides et efficaces, et encore plus doués dans la conception de leurs propres rejetons. Les technologies de la robotique vont ainsi transcender l’existence humaine d’une façon telle qu’il n’existera plus de rôle utile pour l’Homme sous sa forme actuelle. Mais comme nous aurons été à l’origine de tout ceci, nous conserverons une importance historique et ils garderont une trace de nous dans leurs bibliothèques ».

Comment Moravec organise-t-il le scénario évoqué plus haut ? En extrapolant à partir des expériences qu’il a mises en route dès 1987. Selon l’ancien professeur de Carnegie Mellon, dès 2020, les robots vont acquérir une capacité d’auto-apprentissage, évolution essentiellement due aux extraordinaires progrès accomplis en matière de mémoire et de puissance de calcul. À partir d’un système de récompenses et de punition en fonction du succès ou de l’échec, ce robot développera son comportement par lui-même en triant les actions à pérenniser de celles à abandonner.

Une dizaine d’années plus tard, apparaîtra une nouvelle génération de robots capable de conserver un modèle interne de leurs actions passées et du monde extérieur. À partir de cette base de connaissances, ils seront en mesure d’exécuter diverses simulations avant l’accomplissement d’une tâche. Viendra ensuite une phase au cours de laquelle ils s’enrichiront mutuellement du savoir acquis.

Moravec estime que, jusqu’à une telle époque, les robots opéreront au service de l’homme, leur activité se bornant à se plier aux désirs de maîtres dont ils apprendraient tout.

« Il sera parfaitement plausible, dit-il, de bâtir des machines follement heureuses à l’idée d’être totalement servile ».

En cette période bénie, ils feront fonctionner des entreprises entières, de l’assemblage jusqu’à la comptabilité, en passant par la gestion. Les Terriens vivront une période bienheureuse, assistés par de merveilleux esclaves électroniques qui ne se plaignent jamais et mettent un point d’honneur à satisfaire leurs moindres désirs.

Où se situe le point de rupture ? Dans le fait que nous serons tentés de confier à ces créatures des opérations extra-terrestres d’envergure, puisque, à la différence des humains, les robots n’ont pas besoin de respirer, ne sont pas déroutés par l’absence de gravité et sont insensibles aux radiations. Des usines de robots situées sur Mars ou Uranus fabriqueront des articles qu’ils déposeront régulièrement dans l’atmosphère terrestre. Il suffira d’en envoyer un petit groupe pour voir se développer une colonie qui saura construire tout ce dont elle aura besoin, y compris des répliques d’elle-même, en extrayant les minéraux locaux et en puisant l’énergie locale.

« Supposons alors qu’une entreprise terrestre supervisant ces robots fasse faillite et laisse la colonie à l’abandon. Nous obtenons l’équivalent d’une vie sauvage intelligente et autosuffisante », prophétise Moravec.

Que se passe-t-il alors ? Selon lui, ces robots se multiplieraient jusqu’à un point où ils pourraient manquer de sources d’énergie. La logique la plus élémentaire les conduira alors à envahir la Terre afin d’assurer leur longévité. Ainsi s’achèverait la grande saga de l’Humanité.

Accordons un certain crédit aux prédictions de Moravec et posons qu’il pourrait y exister un jour une forme de robot suffisamment avancée pour qu’elle puisse arriver à la conclusion qu’elle ferait mieux de se débarrasser des humains. On peut tout de même se demander comment en premier lieu, l’espèce humaine qui a prouvé au fil des millénaires qu’elle avait une aptitude à survivre, pourrait tolérer l’apparition d’une forme de machine menaçant son futur sans juger nécessaire d’en restreindre les effets ? De plus, la puissance technologique d’une civilisation capable de créer des entités autonomes extra-terrestres ne devrait-elle pas lui permettre de se défendre aisément contre une hypothétique invasion par celles-ci ? Par ailleurs, pourquoi les robots que nous aurions affectés à la surveillance des planètes négligeraient-ils de nous informer qu’un complot se prépare ? Enfin, que feraient les robots demeurés sur Terre, devant une telle invasion ? Ils combattraient vaillamment leurs frères envahisseurs, pendant que les humains oisifs continueraient de jouer au ping-pong, à boire du jus de papaye et compter les points.

Au fond, l’erreur majeure que semble commettre certains zélateurs de la robotique est la suivante : assimiler l’Homme à un ordinateur. Cette vision ultra-réductrice fait l’impasse sur les aspects d’intelligence liés à la perception intuitive, l’émotion, l’attirance vers le Beau, l’autodétermination qui pousse à la création pure pour la simple envie de créer quelque chose…

Cet aspect émotionnel de la Nature humaine fait certes l’objet de recherches. Le MIT et le Laboratoire de Hideki Kozima travaillent actuellement sur des prototypes de robots qui sauraient copier et mimer les comportements humains. De fait, les robots appelés à nous côtoyer se doivent de développer un semblant de compréhension de notre monde, tenter si possible d’intégrer par eux-mêmes des objets inconnus et d’en deviner si possible la fonction. Idéalement, ils devraient comprendre notre langage et soutenir une conversation sensée. Parmi les techniques qui intéressent maints chercheurs figurent les « algorithmes évolutionnaires » visant à reproduire un mode évolutif à la Darwin. Une autre piste est celle de la « fouille sémantique » qui vise à améliorer l’appréhension globale d’un sujet parmi une masse de données, en repérant le contexte qui entourent un mot donné. Au vue des prouesses attendues, certaines parlent d’une nouvelle discipline, l’IAG ou Intelligence Artificielle Générale, une forme de programmation qui se proposerait d’égaler l’intelligence humaine.

Va pour la prédiction. L’Intelligence Artificielle n’a cessé d’en asséner sans pour autant matérialiser ce qui avait été promis. Certes, les promoteurs du domaine aiment à citer l’exemple de Big Blue qui a battu Kasparov comme signe avant-coureur que l’IA va tôt ou tard dépasser l’Homme. Il est pourtant aisé de leur répondre que ce sont les programmeurs d’IBM (des hommes) qui ont battu le champion d’échecs. De plus, Big Blue n’a triomphé d’un humain que dans un domaine précis, ultra délimité : une partie d’échecs. Où se situe la nouveauté ? Le couteau, créé par l’Homme, est plus efficace que la main pour couper du pain. Idem pour le tracteur, l’automobile et des millions d’outils créés par l’Homme pour suppléer aux insuffisances du corps ou les compléter. De tous temps, l’Homme a créé des outils et machines qui facilitent le travail. Le robot n’est qu’un maillon supplémentaire sur une longue chaîne. L’on peut raisonnablement penser que celui qui crée quelque chose est supérieur à la chose qu’il a créée. Dans un tel contexte, l’on ne pourra dire d’un futur Big Blue qu’il serait supérieur à Kasparov que le jour où cet ordinateur ou robot serait capable d’une foultitude d’autres choses y compris créer un humain !

Qu’il puisse exister un robot qui aurait pour mission de détruire non pas la race humaine mais certains hommes est chose plausible. Qui pourrait mettre en œuvre un tel programme ? Certains chefs militaires, les va-t-en guerre, ceux qui cherchent à dominer les autres, une faction peu respectable de l’humain. Quel est pourtant leur point commun : ce sont encore des hommes, même si l’on peut estimer qu’ils mettent en œuvre des solutions regrettables.  L’on espère que les robots belliqueux ainsi développés affronteront comme dans le monde réel d’autres robots conçus là encore par nous et dotés de meilleures intentions envers les bipèdes que nous sommes.

La question la plus invraisemblable concerne la naissance d’un sentiment d’individualité, de personnalité, d’identité chez la machine. D’où pourrait bien venir la fameuse conscience que l’on veut prêter aux robots et qui leur permettrait de prendre des décisions réfléchies ? Par quel miracle, l’androïde que l’on a éteint mardi, avec ses circuits, câbles et diodes, s’éveillerait le mercredi soudainement doté d’une conscience de lui-même ?

En supposant que cette conscience vienne à Asimo par un tour de force inexplicable, comment ce même Asimo pourrait-il en venir à penser qu’il fait partie d’une « race », une race dotée d’un instinct de reconnaissance de ses semblables et de leur nécessité de survie collective en tant que race ? En d’autres termes, comment Asimo aurait-il la perception qu’il fait partie de la même famille que l’aspirateur Roomba, le jouet DinoSapien et bien d’autres robots de forme et de marques concurrentes. Comment en viendrait-il à estimer qu’il faut protéger toute la colonie et à communiquer ce concept à ses pairs ?

Admettons que cette perception soit partagée par les divers robots de la maison, encore faudrait-il qu’ils puissent communiquer de manière effective à grande échelle. Or, nous touchons là au sujet cocasse de la Babel informatique. Amener des ordinateurs dissimilaires à converser nécessite un langage commun compréhensible par tous. Est ce que tous les robots parleront Java ? Que fera-t-on si ceux de Microsoft parlent l’ASP / Windows alors que les autres parlent le PHP et tournent sous Linux ? Si oui, quelle version ? Faute de s’accorder sur un espéranto uniforme, les robots se verraient dans l’incapacité de s’organiser. L’informatique est par essence un territoire où la communication entre programmes a toujours été dantesque !

Bref, si l’on cherche de l’infantilisme, les théories qui précèdent ont de quoi satisfaire. Le robot conscient d’être un robot et succédant à l’Homme dans la longue histoire des espèces relève d’un phénomène que l’on peine à expliquer avec des arguments autres que hmm… mystiques. Un mot qui se marie mal avec le sérieux attendu des ingénieurs en robotique.

Il est temps de tourner la page une fois pour toutes et sortir de ce débat futile pour s’intéresser à l’essentiel.

En quoi cette machine créée par l’Homme pour servir l’Homme pourra être utile à l’Homme ?


Moyenne des avis sur cet article :  3.32/5   (19 votes)




Réagissez à l'article

43 réactions à cet article    


  • finael finael 12 mars 2010 10:17

    Excellent.

    Ce mythe du robot (mot provenant du russe « Rabotat » = travail et inventé par un auteur tchèque) égalant l’homme est très bien illustré par le film « 2001 l’odyssée de l’espace » de Stanley Kubrik datant de 1966. On peut aussi citer « I Robot » plus récent (2004) d’Alex Proyas.

    Il a aussi donné la « cybernétique ».

    J’ai plusieurs amis travaillant en robotique et ils sont infiniment plus modestes que ça : déja faire un robot capable « d’aller chercher le carton vert au fond du hangar » n’est pas résolu, malgré la sophistication des engins employés


    • Halman Halman 12 mars 2010 11:11

      2001 c’est Clarke qui a écrit le livre et Kubrick qui en a fait un film en 1968, pas 1966.


    • finael finael 12 mars 2010 12:23

      Mea culpa !


    • emmanuel muller emmanuel muller 12 mars 2010 19:24

      «  Il a aussi donné la »cybernétique« .  »
      Non.
      La cybernétique est un discipline, une science de l’information et une base de la systémique.

      Norbert Wiener a écrit le livre « cybernétique » en 1948 et donné deux ans plus tard l’exemple d’un robot mécanisme qui agirait comme un humain pour expliquer son concept de « peut importe ce qui envoie, on ne traite que le message, et si un message strictement identique était envoyé par autre chose (un mécanisme pas exemple) ça aurait toujours le même effet. » autrement dit, si je suis un robot qui envoie des message d’humain vous percevrez un humain.

      Malheureusement, si ce concept a été repris a Asimov (qui parlait de robotique avant) le terme cybernétique n’a été utilisé en science fiction que dans un sens plus « glauque » que celui des robot d’Asimov qui en sont pourtant les meilleurs représentants ...

      Oui, ça fait beaucoup de ligne pour reprendre un détail, mais dans un cybert expace comme celui-ci je me devais de ne pas laisser passer ! smiley


    • zelectron zelectron 13 mars 2010 09:27

      @Halman
      2001 c’est Kubrik qui l’a imaginé et réalisé. Il a n’appelé Clarke qu’en tant que conseiller. Ensuite Clarke a pondu un bouquin (marchant à coté de ses chaussettes : il n’a pas compris le film) La 2ième mouture de 2001 est une catastrophe, un tue-poésie, une hérésie pour faire « grand-public ».


    • Fourmi Agile Evrard 12 mars 2010 10:20

      Article très intéressant.
      Cependant l’auteur n’a pas soulevé un problème important qui pourrait arriver assez rapidement :

      Est ce qu’on pourrait concevoir des ordinateurs si puissants qu’ils deviendraient un deuxième cerveau ?
      Assez intelligents pour prendre des décisions à notre place, et diriger nos vies, le fonctionnement des entreprises, les choix des dirigeants politiques.

      Avec toutes les dérives qu’on peut imaginer !


      • brakk 12 mars 2010 11:00

        Il y’aurait beaucoup à dire sur cet article qui sent bon le Jihad Buthlérien

        2001 c’est surtout A.C. Clarke
        i Robot n’est qu’une petite partie de ’Robots’ d’Isaac Asimov
        Des personnes amenées à se poser des questions légitimes sur la science

        Quitte à évoquer le péché origel, il serait bon par exemple de rapeller que l’Eve future fut publiée dès 1886, anticipation qui posait déjà les jalons des rapports du créateur à ses créatures ’andréides’, de la conscience et de la simulation de tout ce qui serait propre à l’être humain par réduction à des artifices ingénieux. Excellent ouvrage qui ouvre encore le bal avec Ghost in the shell - innocence.

        Quant a la cybernetique il sagit plutot d’élaborer des systèmes, des ’machines’ donc, mais pas dans un contexte si bien(?) défini que la ’robotique’ moderne. L’initiateur de cette discipline déclarait dans les années 50 qu’il n’y aurait *jamais* de machine à traduire par exemple.

        Bref, je vais de ce pas rédiger de ce pas ce qui pourra faire office de débat contradictoire.
        Bonne journée


        • King Al Batar Albatar 12 mars 2010 11:52

          Bonjour à l’auteur et merci pour cet article ;

          Je suis un grand fan d’isaac Asimov, et je considéré que ces romans d’anticipation sont parmis les meilleurs qu’il m’ait été donné de lire ; Je rajouterai le Meilleurs de monde D’aldious Hoxley que je conseille vivement à ceux qui ne l’ont pas encore lu.

          Ces vrais que les themes recurents d’un bon roman de SF c’est l’autonomie de robots sur l’humanité et l’eugenisme.....


          • Peachy Carnehan Peachy Carnehan 12 mars 2010 12:05

            Loi Zéro : Un robot ne peut nuire à l’humanité ni, en restant passif, permettre que l’humanité souffre d’un mal.

            Première Loi  : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger, sauf en cas de contradiction avec la Loi Zéro.

            Deuxième Loi
             : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Loi Zéro ou la Première Loi.

            Troisième Loi : Un robot doit protéger son existence dans la mesure où cette protection n’est pas en contradiction avec la Loi Zéro, la Première ou la Deuxième Loi.

            Sacré Isaac...


            • Gabriel Gabriel 12 mars 2010 13:25

              Quatrième loi rendant les précédentes obsolètes : Tu débranches la prise, tu oublies la machine et tu te sers de ton cerveau et de ton cœur.


            • Peachy Carnehan Peachy Carnehan 13 mars 2010 02:40

              @ Gabriel

              Vous avez raison sur un point. Au premier abord, la lecture brute de ces lois est fascisante. Ce phénomène est régulièrement observé chez certains esprits peu critique et peu inspiré qui prennent pour argent comptant un texte relevant du second degré, du roman, de la science-fiction.

              Je crains donc que vous n’ayez jamais lu cet auteur, humaniste, qui n’a jamais cessé de démonter les totalitarismes en dénonçant leurs odieuses manipulations. Notamment à travers les fameuses lois de la robotique.

              Pour comprendre Asimov je vous invite donc à remplacer, dans les lois de la robotique, le mot robot par celui de travailleur, et celui d’humain (humanité) par celui d’actionnaire.

              Faites donc l’expérience, allez-y...

              ...voilà c’est fait.

              Maintenant, voulez vous toujours débrancher le robot, ou préférez vous lire Isaac Asimov ?


            • Gabriel Gabriel 13 mars 2010 08:12

              Peachy Carnehan , sacré farceur. Vu sous cet angle les lois d’Asimov deviennent une partie du chemin menant au Graal. Amicalement


            • floyd floyd 12 mars 2010 13:48

              Les scientifiques qui font des prévisions mirobolantes concernant la robotique sont surtout à la recherche de budgets.

              Les robots intelligents sont toujours prévus dans 30 ans, comme la fusion nucléaire.
              J’ai lu le livre de Hans Moravec, ’Robot : Mere Machine to Transcendent Mind’, qui date de 10 ans en arrière et ses prédictions concernant les robots de 2010 sont déjà erronés.
              Une autre idole des prédictions optimistes, Ray Kurzweil, prévoit aussi une intelligence artificielle dans quelques dizaines d’années. Il a écrit le livre ’The Age of Spiritual Machines’ en 1999 et la aussi pas mal de ses prévisions pour 2009 sont erronées. Alors imaginez les prévisions pour 2030 ou 2040.
              Voici l’extrait de son livre et ses prévisions pour 2009 :

              • genjakano genjakano 12 mars 2010 14:06

                @ l’auteur
                je trouve curieux, concernant l’état actuel de la robotique, que vous ne mentionniez pas le robot NAO de chez http://www.aldebaran-robotics.com/ . Un fabricant français de robot domestique, dont le début des travaux remonte à au moins 5 ans.
                NAO dépasse de loin la aibo de sony et d’autres que vous avez cité.


                • Danic Daniel Ichbiah 12 mars 2010 15:02

                   Nao, j’ai fait plein d’articles dessus qui annonçaient sa sortie imminente il y a déjà 2 ans.
                  Il sort quand dans le commerce ?


                • genjakano genjakano 12 mars 2010 20:43

                  Je ne savais pas que vous en aviez parlé par ailleur, je voulais dire que vous n’en parliez pas ici.
                  Quant à sa mise sur le marché, je ne sais pas, il faudrait consulter le site un peu mieux. Par contre je sais que des Nao (en nombre limités) ont été mis en vente à destination des passionnés, pour une phase d’étude, et à des prix avantageux par rapport au prix à venir.


                  • Halman Halman 12 mars 2010 14:11

                    « Quoiqu’il en soit, les théoriciens de l’Intelligence Artificielle ont suffisamment créé de fumée pour qu’un cinéaste comme Stanley Kubrick, influencé par ce courant dépeigne l’ordinateur HAL à la façon d’un être pensant et jaloux de l’Homme. »

                    En fait, comme il est expliqué dans la suite de 2001, 2010 Odyssée Deux, Hal a en réalité mal interprété deux consignes contradictoires. L’une venant de la direction de l’agence spatiale, au contenu politique et tenue secrète aux astronautes, et l’autre plus scientifique connue des astronautes.

                    Son ordre primaire était d’effectuer la mission coute que coute même si l’équipage humain n’était pas en état de le faire.

                    « Les politiques ont menti à Hal, mais Hal ne sait pas ce qu’est un mensonge ».

                    Alors il a pris des décisions malheureuses et contradictoires.

                    Comme pour lui la logique et la missions primaient sur tout, il a fait des erreurs.

                    La lesson est donc qu’il ne faut pas mentir aux ordinateurs.
                    Dr Chandra dans 2010.


                    • LE CHAT LE CHAT 12 mars 2010 14:15

                      Si tu veux survivre , suis moi  ! smiley


                      • Halman Halman 12 mars 2010 14:21

                        Moi je ne crois pas que lorsque l’ordinateur deviendra conscient il se débarrassera de l’homme.

                        Je pense qu’il y aura cohabitation, peut être plus ou moins difficile, mais que le robot faisant partie du règne de l’évolution il y aura deux espèces pensantes sur Terre : les humains et les robots, qui évolueront chacun dans leur sens.

                        Il y aura donc deux espèces conscientes sur Terre. Les deux dépositaires de la conscience.

                        « Qu’une pensée soit issue d’un cerveau de silicium ou de carbonne ne fait pas de différence, les deux ont droit au même respect ».

                        Dr Chandra dans 2010 Odyssée Deux.

                        Cette idée automatique que le robot se débarrassera de son créateur ne me semble pas inéluctable du tout.

                        Il faudra déjà du temps, quelques générations de robots, pour que déjà il arrive à ce genre de niveaux de conscience.

                        Et je pense qu’il sera plus sage et plus rapide à évoluer positivement que notre cerveau de matière organique assez bordelique, pas si cartésien que ça et trop dépendant de sa phyisiologie.


                        • makibobet 12 mars 2010 15:54

                          D’accord avec vous Halman.
                          Les robots n’ont aucune raison d’éliminer l’Homme, celui-ci s’en charge frénétiquement depuis des milliers d’années, sans doute depuis ses débuts voilà quelques millions d’années. Il suffit de voir la quantité de pauvres humains massacrés durant le 20ème siècle, parfois avec de simples machettes (Rwanda : 800 000 morts en 3 mois, plus de « productivité » mortelle que les nazis, avec peu de moyens !).
                          Nous allons certainement continuer sur cette voie, toujours fiers de notre supériorité sur les animaux alors que notre cerveau n’est supérieur au leur que par la conscience qu’il a d’exister, ce qui ne garantit pas la sagesse, loin de là.
                          Notre handicap, c’est nos émotions héritées des animaux ; croisées avec la conscience, le résultat est finalement désastreux.
                          Une intelligence artificielle consciente d’elle même se répartirait à travers TOUS les systèmes informatiques existant alors, pas seulement dans des robots humanoïdes, naïve vision du futur. Elle serait Une et Indivisible (comme la République !), donc pas de conflits entre robots !

                          Que nous ne puissions prédire quand cela sera possible ne signifie pas que cela n’est pas possible ; je ne citerai pas la multitude de prédictions affirmant que « cela n’est pas possible », relatives au vol de plus lourd que l’air, et à l’analyse de la composition des étoiles, la liste serait longue, comme l’est celle des prédictions non réalisées à ce jour.

                          Des expériences sont faites sur l’invisibilité, sur différentes longueurs d’ondes, à présent dans le visible, cela fonctionne sur de petites surfaces, et pourtant ça semblait complétement loufoque.

                          En résumé, si une conscience artificielle existe un jour, elle ne fera qu’accompagner la fin de l’humanité, comme on aide un mourant par compassion. Le pire cauchemar pour l’Humain, c’est lui-même et non pas des extraterrestres, des vampires ou des robots.



                        • Halman Halman 12 mars 2010 16:12

                          Makibobet, moi je pense que par apprentissage, par heuristique, les robots finiront par apprendre certaines formes d’émotions.

                          Pas celles de notre hypothalamus, la faim, la colère, etc, les émotions primitives du lézard, mais les émotions plus cognitives, plus intellectuelles.

                          Petit à petit ils apprécieront Mozart et Shadespeare, Pink Floyd et Manet, les couchers de Soleil et Cézane, les discussions auprès du feu de bois, et autres moments de paix intellectuelle.

                          Ainsi ils se découvriront petit à petit des affinité avec nous et ne nous trouveront peut être pas si mauvais.

                          C’est un des thèmes principaux développés dans Star Trek.

                          Entre Spock le logicien absolu et le capitaine Kirk l’humain qui fonctionne aux émotions et à l’instinct.
                          Avec Data qui découvre par expérience nos comportements et finit par s’attacher à ses collègues humains contre toute logique apparente.

                          Je suis assez optimiste de ce côté là.


                        • zelectron zelectron 12 mars 2010 15:02

                          Après 3000 et quelques SF, je reste favorable aux robots, que dis-je partisan des robots (Asimoviens bien sûr) j’en ai même construit... (des ébauches, car le pb est non pas si difficile mais pour des questions bassement matérielles...je parle de robots réalistes, pas d’incongruités rocambolesques)


                          • Traroth Traroth 12 mars 2010 15:02

                            Mouais... Faire commencer l’histoire des robots par une fiction de 1921, c’est un peu comme faire commencer la conquête spatiale par Jules Verne.

                            Plus réalistement, le premier robot date de 1961. Et les progrès accomplis en moins de 50 ans sont phénoménaux. Le robot autonome est désormais en vue.

                            Du côté de l’intelligence artificielle, le facteur le plus bloquant est la puissance de calcul. Un ordinateur actuel n’a tout simplement pas la capacité nécessaire pour arriver à une solution convaincante. Mais si on en croit la loi de Moore, ça peut changer très vite !

                            Après, il n’est pas du tout certain que les robots attaqueront l’homme en un mouvement généralisé. De même, les machines ne seront jamais dénuées de défaut.


                            • Jurassix Jurassix 12 mars 2010 15:06

                              Lorsque j’ai eu mon premier cours d’electronique/robotique, le premier 1/4 d’heure à été consacré à cette question.

                              Le professeur nous avait donné les 3 lois d’Isaac Asimov :

                              • Première Loi : « Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger. » ;
                              • Deuxième Loi : « Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi. » ;
                              • Troisième Loi : « Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la Première ou la Deuxième Loi. »
                              La loi zéro n’avait pas été enseignée à l’époque :

                              Un robot ne peut ni nuire à l’humanité ni, restant passif, permettre que l’humanité souffre d’un mal.

                              Avec le recul, je me dit que l’on devrait tous connaitre ces lois...


                              • Halman Halman 12 mars 2010 16:18

                                Ce qui m’émeut profondément dans Blade Runner, c’est que les réplicants, se découvrant une durée de vie limitée à quelques années par leurs constructeurs sont paniqués de mourir, et mourir si jeunes.

                                C’est la preuve d’une prise de conscience de la vie, de la préciosité de la vie, une belle preuve d’humanité de leur part.

                                Ils luttent déséspérément contre la mort, contre le flic qui veut les effacer.

                                Ils vont voir leur concepteur pour trouveer une sollution pour rallonger leur durée de vie.

                                Et quand leur chef meurt, c’est en pleurant non pas sur lui même, mais sur les expériences sublimes qu’il a vécues et qu’il ne revera jamais.

                                Profondément humain.

                                Ils sont donc devenus humains par l’expérience, parce que la vie les a ainsi forgés, non pas parce qu’on les a conçus comme des mécaniques.


                                • Danic Daniel Ichbiah 12 mars 2010 16:32

                                   Blade Runner est un Film. (Un excellent film)
                                  Une fiction.
                                  Ce n’est pas la realité
                                  La réalité, c’est que les robots sont de la quincaillerie.


                                • Halman Halman 12 mars 2010 16:41

                                  Nous aussi sommes de la quincaillerie.

                                  De la quincaillerie biologique, des tas de cellules et d’organes qui fonctionnent à peu près correctement par miracle. Mais tellement fragiles et tellement instables.


                                • Halman Halman 12 mars 2010 16:23

                                  Par contre, comme dans IA, je suis certain que les robots se heurteront à un racisme des humains envers eux.

                                  On connait déjà le refrain : ils nous piquent notre travail, etc.

                                  Ils devront avoir afaire à des frondes, des actes de violence purement racistes.

                                  Je crois pour ma part que les androïdes devront se fondre dans la masse et surtout ne rien laisser paraitre de leur androïdité. Manger, boire, dormir, se laver, raler, être fatigués, s’amuser de puérilités, ils devront faire comme tout le monde pour s’intégrer et ne pas se dévoiler.

                                  Ils devront s’inventer une histoire, une enfance, des souffrances, des joies, un passé.

                                  Pour avoir la paix passer inaperçus.


                                  • Halman Halman 12 mars 2010 16:39

                                    Je ne suis pas d’accord avec la fin de l’article.

                                    Les robots acquiereront la conscience, petit à petit, par niveaux, par apprentissage, par expérience, comme le fait n’importe quel bébé.

                                    Bien évidemment pas spontanément comme par magie un matin en les allumant.

                                    Cog de Rodney Brooks, par apprentissage avait déjà il y a quelques années un QI d’un enfant de 2 ans.


                                    • srobyl srobyl 12 mars 2010 18:20

                                      Mais le QI n’est pas la conscience. 


                                    • Danic Daniel Ichbiah 13 mars 2010 08:29

                                      Cog ne savait pas marcher. Il n’avait ni bras ni jambes. Où avez vous lu qu’il aurait eu le QI d’un enfant de 2 ans  ???


                                    • Danic Daniel Ichbiah 13 mars 2010 08:32

                                      Treès bonne remarque : le QI n’est pas la conscience. !!


                                    • finael finael 12 mars 2010 16:48

                                      Intelligence + Artificielle = Oxymore.

                                      En fait cela n’a aucun sens, déja qu’on ne sait pas définir l’intelligence !

                                      D’ailleurs, et depuis bien des années, les professionnels parlent de « systèmes experts »


                                      • joelim joelim 12 mars 2010 17:56

                                        Le mythe de l’ordinateur intelligent prouve simplement qu’il y a des chercheurs pas très sérieux. L’intelligence étant l’art de répondre adéquatement à des situations nouvelles, il faudrait déjà montrer que l’ordinateur puisse être plus intelligent que ceux qui le programment !

                                        D’autre part quelle présomption de croire que la fabuleuse complexité du cerveau puisse être égalée avec nos outils de primates ? Et quelle idiotie de croire à l’utilité de faire des robots égalant ou remplaçant l’homme. Au contraire, le robot doit être un prolongement de l’homme, ce dernier étant ce qui a été inventé de mieux pour prendre des décisions au final.

                                        Par contre, le robot menace l’homme, c’est clair, exemple : les drônes. Mais ce sont des hommes qui programment ces robots de mort. L’évolution de leur technique est très inquiétante, et on risque de se retrouver dans un scénario de type Prédator mais où ce sont des hommes qui pilotent ces machines de mort...

                                        • Vincent Abry Vincent Abry 12 mars 2010 18:18

                                          Il existe déjà certains robots autonomes perfectionnés pour la manutention dans un entrepôt : http://www.robotshop.com/blog-fr/danse-des-robots-kiva-261

                                          Le domaine de la robotique médicale est aussi très prometteur.

                                          Je crois qu’il ne faut pas voir les robots comme des ennemis mais comme des alliés.

                                          L’homme a toujours su s’adapter et il le fera encore, ce n’est pas vraiment un problème.

                                          Concernant l’homme-machine, je vous invite à lire ceci :
                                          http://www.vincentabry.com/transcendent-man-film-ray-kurzweil-singularite-futur-8477


                                          • TSS 12 mars 2010 18:31


                                             La menace qui nous guette ce n’est pas les robots qui prendront notre place mais les hommes

                                             robotisés grace aux nanotechnologies... !!


                                            • Fourmi Agile Evrard 12 mars 2010 19:40

                                              Nao, le robot le plus évolué qui est commercialisé aujourd’hui coute près de 5000 euros !
                                              Et ses possibilités restent quand même très limitées.
                                              Ce n’est qu’un très beau jouet pour riches.


                                              • emmanuel muller emmanuel muller 12 mars 2010 19:47

                                                " Il est temps de tourner la page une fois pour toutes et sortir de ce débat futile pour s’intéresser à l’essentiel.

                                                En quoi cette machine créée par l’Homme pour servir l’Homme pourra être utile à l’Homme ? "

                                                Ben alors pourquoi c’est le futile qui est abordé ici ?

                                                Faut pas bouder son plaisir comme ça, surtout quant on le fait partager, par ce qu’au delà du sujet du robot les sujet abordés par ce biais sont bien sympathique.

                                                Par exemple pourquoi l’homme est persuadé que ce qui est conscient veut forcément le détruire ?

                                                Aurait-il déjà conscience d’être lui même un nuisible ?


                                                • Fourmi Agile Evrard 12 mars 2010 23:10

                                                  @Emmanuel : l’essentiel c’est tout simplement le prix de ces jouets.
                                                  Ils sont tellement chers qu’ils ne seront réservés qu’à une infime minorité et donc dangereux pour personne.

                                                  Quand à les utiliser comme moyens de guerre, ça n’a absolument aucun intérêt puisqu’une bonne bombe bien placée sera toujours plus efficace et beaucoup moins chère qu’une armée de robots.—

Ajouter une réaction

Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page

Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.


FAIRE UN DON






Les thématiques de l'article


Palmarès