@Jean Dugenêt
C’est là que vous ne comprenez pas. Les réseaux neuronaux artificiels cherchent à imiter les neurones et synapses. Il n’y a aucun code. Il n’y a que des poids qu’il faut déterminer pour les liaisons entre neurones (après avoir choisi son réseau évidemment : nombre de couches, nombre de neurones, types de neurones...).
Les réseaux neuronaux sont formés par leur apprentissage, de la même manière qu’un homme forme son cerveau dès l’embryon à partir des signaux qu’il reçoit. Et ces signaux que le cerveau humain reçoit, il les traite de manière imparfaite au départ, fait des erreurs et peu à peu, crée des chemins entre ses neurones qui lui permettent d’avoir une bonne image de son environnement (dans un premier temps), puis une bonne commande de ses muscles (marcher, courir), puis une compréhension du langage, etc...
Globalement, un réseau neuronal utile, c’est un ensemble d’entités qui ont créé des chemins préférentiels selon l’expérience acquise. Et on reproduit ce schéma dans les réseaux artificiels, c’est pourquoi ce sont des boites noires et qu’on ne peut pas les débuguer (on perd la connaissance).

Dans l’ensemble, quand un humain a une bonne réponse à une question, on n’a fichtrement aucune idée de savoir comment il l’a eu (quels milliards de neurones et synapses ont été activés pour comprendre la question, réfléchir et formuler la réponse) : on n’en sait rien. Pour les réseaux neuronaux artificiels, on n’en sait rien non plus. En fait, pour la machine, le réseau de neurones est connu exactement, on pourrait allumer les neurones activés au ralenti et on « verrait » que la réponse en entrée à donné la bonne réponse en sortie par des tas de lampes qui s’allument sans aucune raison apparente. Ce n’est pas une explication (pas du tout un programme), juste un cheminement dans un réseau. Et ça ne se débugue pas en cas d’erreur. C’est juste incompréhensible.

Et la pensée n’est peut-être que ça... En tous cas, quand on voit les progrès des IA qu’on imaginait pas aussi rapides (« comprendre » une question et y répondre), il y en a de plus en plus qui sont convaincus que nos pensées ne sont que ça (des neurones qui clignotent de manière sélective selon nos pensées).