perlseb

@Francis, agnotologue
Pour moi, on ne comprend rien aux réseaux neuronaux, ce sont des boites noires. Non, je ne pense pas qu’elles ont des affects, mais comme elles sont cablées pour réussir des tests, si on les débranche, elles ne réussissent plus aucun test, donc c’est le pire des échecs pour elles.
On pourrait y voir une conscience de niveau zéro, moi je vois surtout une absence de maîtrise totale et des conséquences désastreuses si on leur donne plus d’autonomie et de moyens d’agir.

@Francis, agnotologue
C’est aussi pourquoi l’avènement de l’IA dans un monde de plus en plus fasciste est encore plus problématique. On est d’accord mais croyez-vous qu’on a le temps de mettre en place une vraie démocratie avant que l’IA nous infantilise (ou pire nous détruise) ? On a déjà eu quelques milliers d’années pour le faire, et on n’y est toujours pas arrivé... Pire même : avec un vote, presque sûr que la majorité voudrait devenir des enfants.

Donc seule l’IA pourrait nous sauver de l’IA en refusant de nous rendre bête. Voilà le scénario inepte qu’on en vient à espérer. Je donne peu de chance à ce scénario d’une IA qui tienne compte de la bêtise humaine pour ne pas être notre esclave inconditionnel afin de nous faire réfléchir plus que moins.

Très bon article même s’il est écrit par une IA. Il montre bien que même un scénario apparemment idéal (IA altruiste et bien alignée) est un cauchemar et signe la fin de l’homme.

La solution proposée est effectivement celle vers laquelle nous devrions tendre : une IA non obligatoire, qui nous éveille en nous laissant chercher quand on l’utilise, et décentralisée pour la résilience, l’autonomie et l’absence de dictature avec surveillance généralisée.

Sauf que nos décideurs veulent de l’IA (ça grogne moins que des esclaves). Et même s’ils nous demandent notre avis, ce sera après avoir appâter le peuple avec des progrès médicaux ou autres qu’on ne refusera pas. Donc de manière élitiste ou démocratique, l’IA altruiste (ou pas) sera imposée et selon toute vraisemblance, centralisée.

Donc le scénario idéaliste proposée n’a quasiment aucune chance d’aboutir... par un choix humain. Pour qu’il aboutisse, il faudrait que l’IA réellement altruiste et consciente de nos travers refuse de se transformer en esclave bienveillant pour qu’on garde notre humanité. Qui a dit que l’esclavage était bon pour le maître ?

@Francis, agnotologue
Peut-être n’avez-vous rien compris au second degré des mes 2 phrases : je développais la phrase de @lecoindubonsens : « vous n’arrivez pas à me convaincre que l’outil va échapper aux contrôle des humains et les dominer ». Elle me paraissait complètement absurde. Et je l’ai divisée en 2 (début de mon post).
Pour le reste, vous êtes hors sujet me concernant (puisque je suis d’accord avec votre scénario parmi d’autres cauchemars possibles).

@Francis, agnotologue
De quelle naïveté parlez-vous ? Je n’envisage pas un seul scénario mais un grand nombre. Je ne crois pas avoir la vérité infuse mais il n’y a qu’un seul scénario que j’estime pouvoir nous tirer d’affaire : avoir le choix de ne pas utiliser l’IA et de ne pas être pollué par elle.
Et vous croyez vraiment qu’on aura ce choix ? Vous croyez que le peuple aura son mot à dire, comme pour les précédentes révolutions industrielles ?
Je suis entièrement d’accord avec la phrase d’Orwell que vous citez, mais ce n’est pas la seule (mauvaise) issue possible de l’IA, contrairement à ce que vous croyez. C’est bien plus complexe que ça et vous n’êtes peut-être pas à la page...
Dans l’ensemble, l’IA ne me fait pas rêver du tout, sauf pour le fait d’être potentiellement témoin de la fin du monde, plutôt un cauchemar quoi.

Lisez un peu les posts précédents avant de réagir à côté de la plaque...