perlseb

@Jean Keim

Intéressant comme question et la réponse est : « ça pose des problèmes dès que la distance dépasse 30cm » (voire moins). Pourquoi ? Parce que si on a une horloge CPU de 1GHz, elle change d’état à chaque nanoseconde. Et en une nanoseconde la lumière parcourt ... 30cm. Donc si on a des fils qui ont cette distance, la valeur du signal change tous les 15cm sur le fil (2 états opposés par cycle). Il ne faut pas trop déconner avec la longueur des fils si on veut que l’ensemble marche.

Donc ça fait longtemps qu’on prend en compte les déphasages liés à la distance des fils pour faire fonctionner les ordinateurs.

@Francis

Certains disent que les idées novatrices sont au départ des hallucinations... Même si le nombre d’hallucinations a fortement baissé avec les derniers modèles d’IA, c’est peut-être la marque de fabrique de tout réseau neuronal, cerveau de l’homme compris.

@Tolzan

L’IA est vraiment quelque chose dont il faut se méfier même si on croit avoir le contrôle ... car on ne l’a pas, même aujourd’hui.

L’homme utilise beaucoup de termes assez vagues pour se démarquer des animaux (âme, esprit, conscience, rationalité, pensées) et Descartes a même proposé que les êtres qui pensent sont ceux qui peuvent parler. Ce qui est très embêtant depuis ChatGPT. Voir une vidéo très claire sur ce sujet de Monsieur Phi :

https://www.youtube.com/watch?v=5DoT2NQTZD4&list=PLuL1TsvlrSnc5tQsMgeOgm576PgY0rtRh&index=4

En résumé, si on est dualiste interactioniste (souvent les religieux) alors on rejette vivement toutes les capacités prétendues des IA. Pourtant, les IA ont tendance à nous prouver que tout n’est que matière (absence de l’esprit qui n’est qu’une activité neuronale, donc émerge de la matière).

Donc nos problèmes d’humains avec l’IA sont complexes : si un jour une machine devient consciente, ce n’est pas en ayant une attitude dualiste qu’on s’en rendra compte, ni en ayant une notion vague de la conscience. Il faut définir ce terme, certains commencent à le faire. Car en cherchant à imiter le cerveau, il faut être préparé à cette éventualité : générer une conscience artificielle, créer une machine qui pense, qui a des états d’« âmes », des volontés propres, etc...

Je ne dis pas qu’on y est ni même que ça arrivera un jour, mais il faut savoir douter : et si l’homme n’était qu’une machine ultra-complexe et que toutes nos idées sur notre esprit ne sont que des phénomènes émergents d’une matière organisée ?

Donc l’IA n’est pas une invention comme les autres, c’est une remise en question de notre propre espèce, de notre domination de la Terre par l’intelligence, c’est la création d’une espèce non vivante dont nos rapports futurs ne sont pas très clairs selon les scénarios possibles que nous nous pouvons imaginer, avec notre intelligence limitée.

@Tolzan

On parle beaucoup d’algorithmes à tort et à travers. Évidemment qu’il faut écrire des algorithmes pour faire ingurgiter une montagne de données à un réseau de neurones artificiels, de même qu’il faut en écrire pour l’interface d’accès au réseau neuronal, pour définir les boucles de « réflexion » que l’on enchaînera lorsqu’une question sera décomposée en de nombreux accès au réseau de neurones.

Mais le cœur de l’IA (le réseau neuronal) qui est issu de l’apprentissage n’est pas écrit par un humain et n’est pas du tout un programme (ou un algorithme). C’est une boite noire. Pour la faire court, on est incapable d’écrire un programme qui parle et répond à des questions (les LLM ne sont pas des pipotrons). Mais on sait faire pousser des réseaux neuronaux qu’on ne maîtrise pas et qui le font.

Ensuite les IA ne font rien toutes seules parce qu’on ne va pas gaspiller d’énergie pour rien. Mais si on fait communiquer 2 IA entre elles, elles peuvent inventer leur propre langage et on ne sait même plus ce qu’elles se disent...

https://lanature.ca/2025/03/03/deux-ia-decouvrent-quelles-parlent-entre-elles-et-inventent-leur-propre-langage/item/conclusion-une-innovation-qui-fascine-mais-qui-inquiete-aussi-5

C’est parce que les IA sont des boites noires qu’on ne les maîtrise pas (pas d’alignement) mais c’est aussi pour ça qu’elles peuvent faire des choses complexes qu’on ne peut pas réaliser avec des programmes. Il est très difficile de les juger une fois l’apprentissage terminé, si elles « comprennent » qu’elles sont testées, elles peuvent se comporter différemment (et on ne leur apprend pas ces comportements fautifs, ils émergent bien malgré nous).

@Tolzan

Il y a quand même de très nombreuses différences entre les inventions précédentes et l’IA.

Non alignement : l’IA ne fait pas forcément ce qu’on lui demande.

Autonomie : l’IA est capable de faire des tâches de plus en plus longue, de manière totalement autonome (les autres inventions étaient juste passives, l’homme décidait de tout).

Généralisation complète de son spectre d’action : si l’IA fait mieux que notre cerveau (c’est évidemment le cas dans de nombreux domaines spécifiques, mais pas encore de manière générale), alors elle rendra l’homme complètement obsolète pour l’économie. On a toujours gardé l’avantage intellectuel avec les autres inventions. Affirmer qu’on aura encore un avantage émotionnel revient à dire que nous serons encore des animaux... pas sûr qu’on puisse considérer cela comme un avantage (au travail, j’entends).

L’IA est une boite noire : d’une part, ceux qui la font pousser ne comprennent pas exactement comment elle fonctionne. On comprend sa constitution mais on ne peut pas connaître les limites réelles de ses capacités : soit parce qu’il faudrait la tester très longtemps, soit ... parce qu’elle peut nous mentir délibérément. Donc une boite noire est un problème pour les concepteurs et les utilisateurs mais ça peut être un avantage pour les décideurs mal intentionnés (pour nous refourguer une machine biaisée qu’on prend pour un oracle et qui nous induit en erreur et en esclavage).

Et pour finir, l’IA (générale puis super-intelligente), sera la dernière invention de l’homme : après, l’IA fera toutes les autres, l’homme n’étant plus équipé pour comprendre tel un ver de terre qui ne réalise pas qu’il traverse une route.

Alors si ça n’arrive jamais parce que l’intelligence de l’homme est indépassable, c’est presque mieux. Mais la prudence imposerait de ne pas trop croire à cette affirmation gratuite.