@pemile
Moi, c’est fait, mais toi, pourquoi tu ne réponds pas à ma simple question si tu veux prétendre connaitre comment fonctionnent les LLM ?
Alors réponds à ta question si tu as la réponse. Je ne prétends pas être un spécialiste, mais je constate que beaucoup trop de gens comparent l’IA connexionniste (simulation de neurones) à des programmes, ce qui n’a absolument rien à voir. C’est l’origine de mon premier post sur cet article.

Je tiens à insister sur le fait que ceux qui fabriquent ces LLMs les étudient derrière pour essayer de comprendre comment ils fonctionnent. Donc j’écoute certaines vidéos ou lit des articles et, en supposant qu’ils ne racontent pas n’importe quoi, j’apprends certaines choses. Mais ce n’est pas à quelqu’un comme moi de te répondre à des questions précises sur comment les LLMs fonctionnent : je ne peux que te répéter ce que j’ai vu ou lu des spécialistes qui analysent de tels systèmes.
C’est aussi pourquoi je t’ai parlé (en guise de réponse) du cerveau humain dont on s’est inspiré pour l’IA connexionniste : on n’y comprend pas grand chose. Si tu comprends l’anglais, je te conseille vraiment le premier lien que j’ai donné (en traduction automatique, c’est quasi-inaudible). Anthropic embauche des neurobiologistes et autres pour faire des études de leur « cerveau » numérique. C’est beaucoup, beaucoup plus pratique à étudier qu’un cerveau biologique : on peut l’ouvrir, regarder chaque neurone individuellement, refaire des tests à l’identique, etc... Mais ça ne rend pas pour autant la tâche de compréhension d’un tel amas de milliers de milliards de neurones facile. Et à supposer qu’ils commencent à mieux comprendre une version, la prochaine qui sort 6 mois après est 10 fois plus complexe... Ils ne cherchent évidemment pas à comprendre la fonction de chaque neurone (il faudrait plusieurs vies pour faire un tel travail), ils cherchent simplement à détecter des motifs permettant de savoir si une machine « ment », dissimule ses pensées, etc... pour permettre de détecter leur non alignement (entre autre). Et c’est pas gagné... En fait, plus les gens en savent sur le sujet, et plus ils expliquent qu’essayer de comprendre ces amas de neurones est bien plus complexe que de les faire pousser. Donc la sécurité sera de plus en plus en retard par rapport aux capacités de ces IA.