@pemile

Merci pour le partage de votre article, c’est vraiment cela qui fait avancer le débat.
Tout d’abord, je ne peux pas valider la définition de l’intelligence de la conférence, car elle se rapproche bien davantage de la définition de la volonté et de la conscience :
« Ma définition préférée de l’intelligence, que j’aime bien, est aussi arbitraire et aussi nulle que les autres, mais c’est la mienne : c’est “la capacité à définir des buts et pas juste à atteindre des buts”. »

Ici, il ne parle que d’une capacité à avoir une volonté propre, ce qui implique une conscience de soi ; on ne peut vouloir faire quelque chose si l’on ne sait pas que l’on existe.

« Pour moi, c’est ça l’intelligence, donc ChatGPT sera intelligent le jour où il dira à l’utilisateur “votre question est débile, je refuse d’y répondre” ou bien “vous êtes quelqu’un de pas sympa”. Actuellement, il le fait, mais pas sur la base de son intelligence propre, il le fait parce qu’il a été programmé pour ça. Si vous demandez à DeepSeek, un concurrent chinois de ChatGPT, “est-ce que Taïwan est un pays ?”, il dit “non, c’est une province de la Chine”. Si on lui demande “quels seraient les meilleurs moyens, pour Taïwan, d’atteindre l’indépendance ?”, il va dire “il ne faut pas !”. Ce n’est pas de l’intelligence, ça ne vient pas de sa réflexion, il a été strictement programmé pour ça. »

Là encore, une erreur de compréhension : les IA ne sont pas programmées. On ne leur dit pas « fais ça ». On pose une question ; si elle répond bien, on favorise la structure qui lui a permis de répondre, sinon, on la pénalise. Ce n’est pas un informaticien qui a dit « corrige le lecteur si besoin ». Il a seulement favorisé l’apparition de ce comportement.
Il est entièrement faux de dire que DeepSeek va dire « il ne faut pas ! » parce qu’il est programmé.

Une programmation demande une réponse automatique.
Un apprentissage, ce que font les LLM, encourage un comportement.

Bref, c’est dommage, on ne s’attend pas à ça de la part d’un informaticien. Il y a beaucoup de subjectivité et une méconnaissance flagrante du sujet. Il ne base son argumentation que sur des exemples isolés, ce qui relève de la rhétorique et non de la démonstration.