perlseb

Cet article résonne aussi bien dans la tête de ceux qui sont convaincus de vivre en démocratie (ils y trouveront une démonstration brillante) que dans la tête de ceux, jamais contents, qui critiquent notre système (je n’ai aucune idée du pourquoi, je suis dans la première catégorie). Un article qui met tout le monde d’accord en somme, c’est rare, il faut le souligner.

Le petit reproche : comme tout le monde est d’accord, il n’apporte rien, à part du rire, peut-être (enfin, ça dépend, une démonstration brillante, il faut s’accrocher pour la suivre quand même, j’ai pas trouvé ça facile).

@Jean Keim

Intéressant comme question et la réponse est : « ça pose des problèmes dès que la distance dépasse 30cm » (voire moins). Pourquoi ? Parce que si on a une horloge CPU de 1GHz, elle change d’état à chaque nanoseconde. Et en une nanoseconde la lumière parcourt ... 30cm. Donc si on a des fils qui ont cette distance, la valeur du signal change tous les 15cm sur le fil (2 états opposés par cycle). Il ne faut pas trop déconner avec la longueur des fils si on veut que l’ensemble marche.

Donc ça fait longtemps qu’on prend en compte les déphasages liés à la distance des fils pour faire fonctionner les ordinateurs.

@Francis

Certains disent que les idées novatrices sont au départ des hallucinations... Même si le nombre d’hallucinations a fortement baissé avec les derniers modèles d’IA, c’est peut-être la marque de fabrique de tout réseau neuronal, cerveau de l’homme compris.

@Tolzan

L’IA est vraiment quelque chose dont il faut se méfier même si on croit avoir le contrôle ... car on ne l’a pas, même aujourd’hui.

L’homme utilise beaucoup de termes assez vagues pour se démarquer des animaux (âme, esprit, conscience, rationalité, pensées) et Descartes a même proposé que les êtres qui pensent sont ceux qui peuvent parler. Ce qui est très embêtant depuis ChatGPT. Voir une vidéo très claire sur ce sujet de Monsieur Phi :

https://www.youtube.com/watch?v=5DoT2NQTZD4&list=PLuL1TsvlrSnc5tQsMgeOgm576PgY0rtRh&index=4

En résumé, si on est dualiste interactioniste (souvent les religieux) alors on rejette vivement toutes les capacités prétendues des IA. Pourtant, les IA ont tendance à nous prouver que tout n’est que matière (absence de l’esprit qui n’est qu’une activité neuronale, donc émerge de la matière).

Donc nos problèmes d’humains avec l’IA sont complexes : si un jour une machine devient consciente, ce n’est pas en ayant une attitude dualiste qu’on s’en rendra compte, ni en ayant une notion vague de la conscience. Il faut définir ce terme, certains commencent à le faire. Car en cherchant à imiter le cerveau, il faut être préparé à cette éventualité : générer une conscience artificielle, créer une machine qui pense, qui a des états d’« âmes », des volontés propres, etc...

Je ne dis pas qu’on y est ni même que ça arrivera un jour, mais il faut savoir douter : et si l’homme n’était qu’une machine ultra-complexe et que toutes nos idées sur notre esprit ne sont que des phénomènes émergents d’une matière organisée ?

Donc l’IA n’est pas une invention comme les autres, c’est une remise en question de notre propre espèce, de notre domination de la Terre par l’intelligence, c’est la création d’une espèce non vivante dont nos rapports futurs ne sont pas très clairs selon les scénarios possibles que nous nous pouvons imaginer, avec notre intelligence limitée.

@Tolzan

On parle beaucoup d’algorithmes à tort et à travers. Évidemment qu’il faut écrire des algorithmes pour faire ingurgiter une montagne de données à un réseau de neurones artificiels, de même qu’il faut en écrire pour l’interface d’accès au réseau neuronal, pour définir les boucles de « réflexion » que l’on enchaînera lorsqu’une question sera décomposée en de nombreux accès au réseau de neurones.

Mais le cœur de l’IA (le réseau neuronal) qui est issu de l’apprentissage n’est pas écrit par un humain et n’est pas du tout un programme (ou un algorithme). C’est une boite noire. Pour la faire court, on est incapable d’écrire un programme qui parle et répond à des questions (les LLM ne sont pas des pipotrons). Mais on sait faire pousser des réseaux neuronaux qu’on ne maîtrise pas et qui le font.

Ensuite les IA ne font rien toutes seules parce qu’on ne va pas gaspiller d’énergie pour rien. Mais si on fait communiquer 2 IA entre elles, elles peuvent inventer leur propre langage et on ne sait même plus ce qu’elles se disent...

https://lanature.ca/2025/03/03/deux-ia-decouvrent-quelles-parlent-entre-elles-et-inventent-leur-propre-langage/item/conclusion-une-innovation-qui-fascine-mais-qui-inquiete-aussi-5

C’est parce que les IA sont des boites noires qu’on ne les maîtrise pas (pas d’alignement) mais c’est aussi pour ça qu’elles peuvent faire des choses complexes qu’on ne peut pas réaliser avec des programmes. Il est très difficile de les juger une fois l’apprentissage terminé, si elles « comprennent » qu’elles sont testées, elles peuvent se comporter différemment (et on ne leur apprend pas ces comportements fautifs, ils émergent bien malgré nous).