@Tolzan

Il y a quand même de très nombreuses différences entre les inventions précédentes et l’IA.

Non alignement : l’IA ne fait pas forcément ce qu’on lui demande.

Autonomie : l’IA est capable de faire des tâches de plus en plus longue, de manière totalement autonome (les autres inventions étaient juste passives, l’homme décidait de tout).

Généralisation complète de son spectre d’action : si l’IA fait mieux que notre cerveau (c’est évidemment le cas dans de nombreux domaines spécifiques, mais pas encore de manière générale), alors elle rendra l’homme complètement obsolète pour l’économie. On a toujours gardé l’avantage intellectuel avec les autres inventions. Affirmer qu’on aura encore un avantage émotionnel revient à dire que nous serons encore des animaux... pas sûr qu’on puisse considérer cela comme un avantage (au travail, j’entends).

L’IA est une boite noire : d’une part, ceux qui la font pousser ne comprennent pas exactement comment elle fonctionne. On comprend sa constitution mais on ne peut pas connaître les limites réelles de ses capacités : soit parce qu’il faudrait la tester très longtemps, soit ... parce qu’elle peut nous mentir délibérément. Donc une boite noire est un problème pour les concepteurs et les utilisateurs mais ça peut être un avantage pour les décideurs mal intentionnés (pour nous refourguer une machine biaisée qu’on prend pour un oracle et qui nous induit en erreur et en esclavage).

Et pour finir, l’IA (générale puis super-intelligente), sera la dernière invention de l’homme : après, l’IA fera toutes les autres, l’homme n’étant plus équipé pour comprendre tel un ver de terre qui ne réalise pas qu’il traverse une route.

Alors si ça n’arrive jamais parce que l’intelligence de l’homme est indépassable, c’est presque mieux. Mais la prudence imposerait de ne pas trop croire à cette affirmation gratuite.