« La conscience d’une machine ne ressemblera jamais à celle d’un homme » Et c’est pour cela que je ne peux l’appeler conscience. Pour moi, les robots auront une conscience quand ils seront capable de mentir.
..................................................................
@Pascal L
On pourrait très bien opérer une petite translation sur l’échelle des consciences et penser que le chat, avec sa conscience de chat, pourrait bien se dire : la conscience de l’homme ne sera jamais celle du chat. Nous autres chats, nous avons l’oreille extrêmement fine, l’odorat itou ; nous voyons bien mieux dans l’obscurité et sommes tout à fait conscients de phénomènes que l’homme est incapable de seulement percevoir.

Je me suis mis dans la peau du chat en prenant cet exemple, parce que le raisonnement que je lui prête est à peu près de même nature que celui de l’homme qui doute de la possibilité d’une conscience des machines. La conscience du chat existe, tout comme la nôtre, mais elle a ses limites. En particulier, ce charmant animal serait probablement incapable de former le raisonnement que je lui prête sur la notion abstraite de conscience : il lui manque le langage articulé comme il nous manque, à nous, quantité de facultés (et pas seulement dans le domaine de la perception !) que nous essayons de pallier en les implémentant sur des systèmes artificiels.

La question du mensonge n’a rien de déterminant. Je n’ai jamais su jouer au poker, mais je crois savoir que la capacité de bluffer et de mentir y joue un grand rôle. Il y a aussi, dans le jeu d’échecs, tout un art de détourner l’attention de l’adversaire en lui faisant croire qu’on a adopté une stratégie particulière alors qu’une autre, beaucoup plus subtile, est en préparation. Tout cela n’est pas si difficile à programmer et si cela n’avait pas déjà été mis au point, les grosses machines ne parviendraient pas, dans la plupart des cas, à battre des champions du monde.

En revanche, je reviens à une différence radicale : une intelligence artificielle pourra bien simuler le mensonge et même la croyance, mais elle ne pourra jamais se mentir à elle-même, c’est-à-dire CROIRE. Ce serait aussi suicidaire pour elle que pour nous d’avaler du cyanure. Il s’est opéré dans la conscience humaine une mutation tout à fait déterminante et définitive au début du XVIIe siècle, quand la pensée scientifique est née avec Galilée et qu’on a cessé de croire les pseudo-vérités issues du dogme. La physique d’Aristote avait duré près de deux millénaires, on pensait à cause de cela qu’elle ne pouvait être que vraie. En trente ans à peine, elle avait complètement cessé de l’être. Sans ce changement radical dans la conscience humaine, on n’en serait pas à pouvoir s’interroger aujourd’hui sur la possibilité d’une conscience artificielle.