@pemile

« Peut-être as-tu déjà vu cette vidéo »

Oui, mais toi tu l’as découvre si tu n’en parles que maintenant ?

Je ne me passe pas ma vie sur youtube. Je n’ai pas appris grand chose avec cette vidéo, sauf sur les nombres de dimensions que les IA peuvent ajouter à de simples mots pour en préciser toutes les caractéristiques. Mais c’est une excellente vidéo de vulgarisation : elle aborde même l’attention absolument nécessaire à la compréhension des contextes (« transformers »).

« générer un modèle du monde »

Non, un modèle des mots, un LLM ne connait pas la résistance d’une table en chêne ou la douceur d’une peluche !

C’est stupide cette réflexion. Il est évident qu’en leur donnant uniquement des données textuelles en entrée, elles n’auront pas la notion du toucher. Je t’ai dit que les IA se faisaient un modèle imparfait du monde (nous aussi d’ailleurs, mais c’est une autre histoire).
On peut dire que la compréhension est la différence fondamentale entre les programmes ou pompeusement systèmes experts (qui ne sont que des automates qui ne font que ce que leur programmeur a prévu) et les réseaux neuronaux qui cherchent des règles pour synthétiser (et compresser ’intelligemment") les données qu’ils ingurgitent. Je ne parle pas de conscience, je parle uniquement de compréhension (imparfaite) des données : si le réseau en reçoit d’autres qu’il n’a jamais vues, il a constitué un modèle qui va lui permettre de deviner une réponse possible (comme de l’intuition) : à ce sujet, les IA sont capables d’invention (de nouveaux coups surprenant au Go pour l’exemple bateau). C’est comme ça qu’on fonctionne (avec nos 5 sens que les IA n’ont pas) et c’est un peu normal qu’en cherchant à imiter notre cerveau, on reproduise ce fonctionnement.
Maintenant, si tu as une définition de la compréhension forcément liée à la conscience, alors les machines ne comprennent effectivement rien. Mais faire des synthèses pour être capables de faire des prédictions (= avoir de l’intuition) par la suite sur des cas non rencontrés en phase d’apprentissage, pour moi c’est juste ça la compréhension. Je ne la sacralise pas, certains animaux comprennent aussi des choses : et il s’agit souvent juste de dire que son comportement actuel tient compte de cas antérieurs qu’il a mémorisés / synthétisés.