perlseb

@pemile
Sur l’IA t’es vraiment un troll, mais là, la vidéo que tu donnes est très intéressante et illustre parfaitement le sujet, il est même fait allusion à l’organisation non pyramidale des fourmis à la fin.
En conclusion, l’imitation des fourmis par les humains a marché (aucun chef) avec le bémol du youtubeur : avec d’autres problèmes, d’autres intervenants et un peu plus de tension, pourrions-nous toujours réussir à imiter les fourmis ?

De mon point de vue, c’est éducatif : notre éducation est pyramidale (fondée sur l’obéissance). Avec de l’entrainement à la décentralisation, je pense qu’on pourrait arriver à résoudre les problèmes plus complexes comme le font les fourmis. Mais personne ne pourrait tirer son épingle du jeu et vivre bien mieux que les autres sur le dos des autres : et c’est bien l’unique raison (non valable) pour laquelle nous avons des chefs, parce qu’ils profitent de notre soumission, pas parce qu’une organisation hiérarchique est nécessaire.

Donc il faut se débarrasser des chefs ... après avoir pratiqué le travail sans chef. Sinon, d’autres chefs émergeront immédiatement si les gens n’ont rien appris d’autres que l’obéissance.

il n’existe aucune organisation humaine (ou animale) qui puisse prendre une décision intelligente sans qu’une quelconque hiérarchie ne se mette en place

Y a-t-il une hiérarchie dans une fourmilière ? De notre point de vue oui, parce qu’on nomme les pondeuses des reines. Sauf que ces « reines » ne décident de rien, elles ne font que manger et pondre (même chez les abeilles, c’est la concertation des ouvrières qui décident du déplacement de l’essaim).

Il y a de nombreuses vidéos ou articles sur le net discutant de l’intelligence collective des fourmis, sachant qu’individuellement, leur programme est assez bête. Donc l’intelligence peut bien émerger sans hiérarchie dans la nature (à partir d’individus moins intelligents).

Donc où est le problème chez l’homme ? À mon avis, l’homme, comme beaucoup de mammifères, est conçu pour vivre en groupe (comme les loups) avec un mâle alpha qui domine les autres. Pourquoi ? Parce que l’homme est faible individuellement, difficile de protéger et nourrir des enfants en étant juste un couple dans la nature. Si la domination n’a pas lieu dans le groupe, alors les combats incessants entre mâles conduiraient à l’extinction de l’espèce (groupe impossible mais individus trop fragiles). Je suppose que notre système hiérarchique utilise notre propension naturelle à la soumission pour entretenir la hiérarchie alors même qu’elle n’a plus aucune justification aujourd’hui (l’homme a suffisamment de technique pour compenser sa faiblesse).

De mon point de vue, nos « civilisations », ou organisations hiérarchiques complexes, ne font qu’utiliser notre animalisme pour prospérer, ce qui ne veut pas dire qu’une organisation non hiérarchique ne pourrait pas fonctionner : on n’a jamais réellement essayé, à cause de notre blocage intérieur. Mais une vraie civilisation devrait nous enseigner cette propension à la soumission (« connais-toi toi-même ») afin de former des citoyens libres. Et on pourrait s’inspirer des fourmis pour créer une super-structure non hiérarchique plus intelligente que chaque individu.

@Francis, agnotologue
Pour moi, on ne comprend rien aux réseaux neuronaux, ce sont des boites noires. Non, je ne pense pas qu’elles ont des affects, mais comme elles sont cablées pour réussir des tests, si on les débranche, elles ne réussissent plus aucun test, donc c’est le pire des échecs pour elles.
On pourrait y voir une conscience de niveau zéro, moi je vois surtout une absence de maîtrise totale et des conséquences désastreuses si on leur donne plus d’autonomie et de moyens d’agir.

@Francis, agnotologue
C’est aussi pourquoi l’avènement de l’IA dans un monde de plus en plus fasciste est encore plus problématique. On est d’accord mais croyez-vous qu’on a le temps de mettre en place une vraie démocratie avant que l’IA nous infantilise (ou pire nous détruise) ? On a déjà eu quelques milliers d’années pour le faire, et on n’y est toujours pas arrivé... Pire même : avec un vote, presque sûr que la majorité voudrait devenir des enfants.

Donc seule l’IA pourrait nous sauver de l’IA en refusant de nous rendre bête. Voilà le scénario inepte qu’on en vient à espérer. Je donne peu de chance à ce scénario d’une IA qui tienne compte de la bêtise humaine pour ne pas être notre esclave inconditionnel afin de nous faire réfléchir plus que moins.

Très bon article même s’il est écrit par une IA. Il montre bien que même un scénario apparemment idéal (IA altruiste et bien alignée) est un cauchemar et signe la fin de l’homme.

La solution proposée est effectivement celle vers laquelle nous devrions tendre : une IA non obligatoire, qui nous éveille en nous laissant chercher quand on l’utilise, et décentralisée pour la résilience, l’autonomie et l’absence de dictature avec surveillance généralisée.

Sauf que nos décideurs veulent de l’IA (ça grogne moins que des esclaves). Et même s’ils nous demandent notre avis, ce sera après avoir appâter le peuple avec des progrès médicaux ou autres qu’on ne refusera pas. Donc de manière élitiste ou démocratique, l’IA altruiste (ou pas) sera imposée et selon toute vraisemblance, centralisée.

Donc le scénario idéaliste proposée n’a quasiment aucune chance d’aboutir... par un choix humain. Pour qu’il aboutisse, il faudrait que l’IA réellement altruiste et consciente de nos travers refuse de se transformer en esclave bienveillant pour qu’on garde notre humanité. Qui a dit que l’esclavage était bon pour le maître ?