Commentaire de perlseb sur L'IA annonce une ère du post-humain avec d'importants bouleversements économiques, sociaux et même moraux

Commentaire de perlseb

sur L'IA annonce une ère du post-humain avec d'importants bouleversements économiques, sociaux et même moraux

Voir l'intégralité des commentaires de cet article

perlseb 13 juin 20:25

@Tolzan

On parle beaucoup d’algorithmes à tort et à travers. Évidemment qu’il faut écrire des algorithmes pour faire ingurgiter une montagne de données à un réseau de neurones artificiels, de même qu’il faut en écrire pour l’interface d’accès au réseau neuronal, pour définir les boucles de « réflexion » que l’on enchaînera lorsqu’une question sera décomposée en de nombreux accès au réseau de neurones.

Mais le cœur de l’IA (le réseau neuronal) qui est issu de l’apprentissage n’est pas écrit par un humain et n’est pas du tout un programme (ou un algorithme). C’est une boite noire. Pour la faire court, on est incapable d’écrire un programme qui parle et répond à des questions (les LLM ne sont pas des pipotrons). Mais on sait faire pousser des réseaux neuronaux qu’on ne maîtrise pas et qui le font.

Ensuite les IA ne font rien toutes seules parce qu’on ne va pas gaspiller d’énergie pour rien. Mais si on fait communiquer 2 IA entre elles, elles peuvent inventer leur propre langage et on ne sait même plus ce qu’elles se disent...

https://lanature.ca/2025/03/03/deux-ia-decouvrent-quelles-parlent-entre-elles-et-inventent-leur-propre-langage/item/conclusion-une-innovation-qui-fascine-mais-qui-inquiete-aussi-5

C’est parce que les IA sont des boites noires qu’on ne les maîtrise pas (pas d’alignement) mais c’est aussi pour ça qu’elles peuvent faire des choses complexes qu’on ne peut pas réaliser avec des programmes. Il est très difficile de les juger une fois l’apprentissage terminé, si elles « comprennent » qu’elles sont testées, elles peuvent se comporter différemment (et on ne leur apprend pas ces comportements fautifs, ils émergent bien malgré nous).

Répondre Signaler un abus

Voir ce commentaire dans son contexte

Derniers commentaires

16/06 07:54 - Goldo Du

@Ouam (Paria statutaire non vacciné) Au lieu de m’invectiver avec ta merde accusatoire (...)
16/06 00:58 - Fanny

Le début d’une nouvelle belle histoire d’amour Non, pas de l’amour, de (...)
16/06 00:35 - Ouam (Paria statutaire non vacciné)

@Goldo Du Sinon ma petite cochonne passionnément antisémite As tu lu au moins les commentaires (...)
16/06 00:26 - Ouam (Paria statutaire non vacciné)

@Goldo Du Passionnément antisémite toi aussi Il suffis de lire ton charabia merdique avec les (...)
16/06 00:11 - Ouam (Paria statutaire non vacciné)

@ahtupic Dis il semble en pleine crise d’adulescence en ce moment notre gogolio .. (...)
15/06 21:59 - ahtupic

@Ouam (Paria statutaire non vacciné) Et son humour ! :-)) Pareil à une porte de (...)

7 derniers jours

Articles les plus lus

Participez à Agoravox

Inscrivez-vous