@Krokodilo
La cartographie d’un réseau neuronal artificiel est beaucoup plus facile : on peut faire des arrêts sur image, savoir exactement quels neurones sont actifs / passifs dans un « cheminement de pensée », comprendre la signification de certains neurones (des concepts pour les neurones profonds, des mots pour les neurones périphériques), et ça ne meurt pas, on peut le dupliquer strictement à l’identique pour augmenter le nombre de tests simultanés, etc...
Mais quand on voit le nombre de paramètres (neurones artificiels pour simplifier) qui entrent en jeu dans les LLMs (des milliers de milliards), on n’a pas le temps de comprendre tout de manière détaillée, encore moins toutes les capacités potentielles. Sans compter qu’on en fabrique des nouveaux sans arrêt, beaucoup plus complexes, donc encore plus difficile à analyser. Je dirai que notre compréhension des réseaux neuronaux artificiels évolue moins vite que notre capacité et « ingéniosité » à en créer de nouveaux (sans parler de la boucle de rétro-action positive ou l’IA commence à être utilisée pour faire pousser des nouvelles ... IA, ce qu’on pourrait appeler la singularité : voir les outils AlphaChip, AlphaEvolve côté Google, mais Anthropic cherche à faire pareil,... ).
Les enjeux sont tels qu’on devrait en parler en boucle à la télé : mais comme tous les sujets cruciaux, le peuple ne décidera de rien.