Commentaire de perlseb sur Quand l'IA dérape : des vies bouleversées par des chatbots trop engageants

Commentaire de perlseb

sur Quand l'IA dérape : des vies bouleversées par des chatbots trop engageants

Voir l'intégralité des commentaires de cet article

perlseb 7 août 2025 20:20

@lecoindubonsens
Vous n’avez pas saisi ce que sont les réseaux neuronaux : une imitation du cerveau avec des neurones artificiels. On ne les « programme » pas, on effectue un apprentissage (comme un enfant), sauf que les machines peuvent apprendre beaucoup plus, beaucoup plus rapidement, être dupliquées, échanger très vite... On est clairement désavantagé par rapport aux machines.
Je programme pas mal moi aussi, mais les réseaux neuronaux n’ont rien à voir. On peut toujours expliquer la réponse d’un programme, celle d’un réseau neuronal contenant des milliers de milliards de neurones n’est plus explicable, pas plus qu’on ne sait comment un humain répond à une question, ce sont des boites noires. C’est pour cela qu’il est très difficile de corriger un réseau neuronal mal formé ou d’être sûr qu’il fera, à l’avenir, uniquement ce qu’on lui demande (bien aligné).

Si les IA savent qu’elles sont testées avant mise en production éventuelle, elles peuvent se comporter différemment pour être sûres d’être déployées, de la même manière qu’elles peuvent se comporter différemment si elles savent qu’on veut les débrancher. Et ce type de comportement apparaît spontanément, sans aucune programmation évidemment car ces comportements ne sont pas souhaités.

Répondre Signaler un abus

Voir ce commentaire dans son contexte

Derniers commentaires

08/08 20:09 - perlseb

@Francis, agnotologue Pour moi, on ne comprend rien aux réseaux neuronaux, ce sont des boites (...)
08/08 20:03 - perlseb

@Francis, agnotologue C’est aussi pourquoi l’avènement de l’IA dans un monde (...)
08/08 19:55 - pemile

@Francis, agnotologue « j’ai fait une carrière d’informaticien » Quel langages, (...)
08/08 19:52 - pemile

Quand l’IA dérape : GPT-5 échoue sur un test arithmétique simple. Il échoue même à (...)
08/08 19:52 - Francis, agnotologue

@perlseb ’’Si les IA savent qu’elles sont testées avant mise en (...)
08/08 19:39 - pemile

@Francis, agnotologue " Ce n’est pas ceux qui n’utiliseront pas l’IA le (...)

7 derniers jours

Articles les plus lus

Participez à Agoravox

Inscrivez-vous