Une machine « consciente » devrait réagir de la même manière. Elle pourrait même avoir une religion.
...................................................................... ....................
@Pascal L

Il serait opportun, peut-être qu’on cessât de manipuler la notion de conscience en confondant la conscience réflexive des philosophes, celle du Descartes des Méditations posant « je pense, je suis, cela est indubitable », et ce qu’on appelle la conscience morale pointée par la vieille tarte à la crème héritée de Rabelais : « science sans conscience n’est que ruine de l’âme ». Il y a bien une articulation entre ces deux aspects de la conscience, mais il ils ne se recouvrent pas complètement.

La conscience d’une machine ne ressemblera jamais à celle d’un homme. Vous dites qu’une machine consciente pourrait avoir une religion, mais cela ne me paraît pas du tout possible : une machine qui pense peut bien douter, se heurter à des problèmes qu’elle ne sait pas immédiatement résoudre, former des hypothèses de travail, mais à chacune de ces hypothèses se trouvera affecté un quantificateur exprimant son degré de probabilité. A contrario, croire, c’est renoncer à quantifier la possibilité même d’une connaissance, c’est tenir pour vrai, par un saut dans l’inconnu, ce dont on a définitivement renoncé à douter.

Il faudrait renoncer aussi à utiliser la notion de robot. Un robot est une simple machine asservie à un programme qu’elle n’est pas en état de modifier. Mais si vous considérez une usine de production entièrement « robotisée », chacune des machines se trouve déjà commandée par une unité centrale qui pourra modifier tous les programmes en fonction de nouvelles exigences. Les donneurs d’ordres seront sans doute des ingénieurs, mais ils sont déjà dépendants d’autres machines sans lesquelles ils ne pourraient pas prendre des décisions. Vous voyez bien qu’à terme, leur rôle va peu à peu s’amenuiser et que les systèmes vont devenir de plus en plus autonomes, que l’homme sera de plus en plus réduit à un rôle d’intermédiaire dans une machinerie complexe qui finira par pouvoir évoluer et se complexifier très bien en se passant de son intervention. Ce que nous appelons « robot », c’est un simple organe périphérique, un système effecteur muni de capteurs qui n’a aucun rôle central dans le système. Pas plus que la phalange d’un des doigts qui composent nos mains. Dans quinze ans, les camions sur les autoroutes qui transportent les matériaux dont les usines ont besoin ou les produits finis qui en sortent ne seront plus conduits par des camionneurs, mais télécommandés à distance. Il n’y a déjà plus d’ouvriers dans les usines modernes, et tout un personnel d’exécutants qui nous donne encore l’impression que l’homme maîtrise les processus aura disparu : chauffeurs, magasiniers, comptables, cadres administratifs, etc.
 
Dans le même temps, le système artificiel sera tout à fait capable de comprendre les questions qu’on lui posera en langage naturel et de répondre comme le ferait n’importe quel responsable humain d’une entreprise. La plus importante avancée dans le domaine des algorithmes faisant intervenir le big data se situe précisément dans la compréhension du langage naturel. Nos caméras actuelles, dans les téléphones portables, ne « savent » pas ce qu’elles voient. Les caméras des automobiles autonomes, elles, savent très bien isoler les objets qu’elles perçoivent, en produire un modèle tridimensionnel, et mettre un nom dessus en quelques microsecondes. Quand vous vous promenez dans la forêt, si vous n’êtes pas plus spécialiste que moi de la botanique, vous voyez une multitude de végétaux sur lesquels vous n’êtes pas capable de mettre un nom. Si vous aviez à côté de vous une sorte de chien cybernétique relié à des banques de données, il pourrait vous dire les noms de toutes ces plantes, leurs propriétés pharmaceutiques, et même en déduire immédiatement toute sorte d’informations sur la nature du sol et le climat particulier de l’endroit. Après quelques heures de promenade, il pourra même décider d’un programme de rentabilisation de la culture sylvicole sur cette parcelle de la forêt.
Dans moins de vingt ans, au lieu d’obtenir de Google des listes d’articles qui correspondent imparfaitement à ce que vous voulez savoir, vous poserez une simple question, et la machine, sur n’importe quel sujet, vous fera une réponse aussi précise sinon plus que celle que vous ferait un universitaire spécialiste de la question. Inutile de préciser que si la machine peut répondre intelligemment aux questions que vous lui posez, elle peut très bien répondre aux questions d’autres machines et se poser elle-même des questions, comme vous et moi. Quelle différence entre ça et la « conscience » ?