@Tolzan

L’IA est vraiment quelque chose dont il faut se méfier même si on croit avoir le contrôle ... car on ne l’a pas, même aujourd’hui.

L’homme utilise beaucoup de termes assez vagues pour se démarquer des animaux (âme, esprit, conscience, rationalité, pensées) et Descartes a même proposé que les êtres qui pensent sont ceux qui peuvent parler. Ce qui est très embêtant depuis ChatGPT. Voir une vidéo très claire sur ce sujet de Monsieur Phi :

https://www.youtube.com/watch?v=5DoT2NQTZD4&list=PLuL1TsvlrSnc5tQsMgeOgm576PgY0rtRh&index=4

En résumé, si on est dualiste interactioniste (souvent les religieux) alors on rejette vivement toutes les capacités prétendues des IA. Pourtant, les IA ont tendance à nous prouver que tout n’est que matière (absence de l’esprit qui n’est qu’une activité neuronale, donc émerge de la matière).

Donc nos problèmes d’humains avec l’IA sont complexes : si un jour une machine devient consciente, ce n’est pas en ayant une attitude dualiste qu’on s’en rendra compte, ni en ayant une notion vague de la conscience. Il faut définir ce terme, certains commencent à le faire. Car en cherchant à imiter le cerveau, il faut être préparé à cette éventualité : générer une conscience artificielle, créer une machine qui pense, qui a des états d’« âmes », des volontés propres, etc...

Je ne dis pas qu’on y est ni même que ça arrivera un jour, mais il faut savoir douter : et si l’homme n’était qu’une machine ultra-complexe et que toutes nos idées sur notre esprit ne sont que des phénomènes émergents d’une matière organisée ?

Donc l’IA n’est pas une invention comme les autres, c’est une remise en question de notre propre espèce, de notre domination de la Terre par l’intelligence, c’est la création d’une espèce non vivante dont nos rapports futurs ne sont pas très clairs selon les scénarios possibles que nous nous pouvons imaginer, avec notre intelligence limitée.