"Ces conclusions anxiogènes doivent nous faire bondir car bien au
contraire elles devraient annoncer un monde meilleur basé sur le travail
des machines et la libération de l’humain.«
L’hypothèse que les machines puissent à terme remplacer les humains pour la plupart des tâches aliénantes, est évidemment une très bonne chose... à condition que les richesses produites soient équitablement réparties.
Mais l’auteur de l’article n’a visiblement pas compris que ce qui motive les prédictions »anxiogènes" de Hawking, Musk et consorts n’a rien à voir avec le volet social et sociétal de l’avènement (éventuel) d’une véritable IA. Ce qui motive leurs craintes, c’est la perspective de ce que l’on appelle la singularité.
En astrophysique, une singularité est quelque
chose qui empêche de savoir ce qui se produit au-delà de la limite de
son horizon. Par exemple les trous noirs sont des singularités dans
l’espace-temps, parce que tout ce qui entre dans leur horizon ne peut
plus en sortir, notamment la lumière. La singularité la plus célèbre,
c’est l’atome primordial qui fut à l’origine du Big Bang. Bref, au-delà
d’une singularité, c’est la Terra incognita.
Or, comme l’a montré la mathématicien Irwin Good, si une
machine peut imiter l’homme dans tous les domaines, elle peut donc,
entre autres, construire et programmer des machines. Cela veut dire que
l’ordinateur qui aura atteint le niveau de l’intelligence humaine pourra
travailler à produire une version améliorée de lui-même, laquelle
version améliorée produira encore plus rapidement une autre version
améliorée, et ainsi de suite jusqu’à produire une super intelligence,
quelque chose qui nous surpassera de plusieurs ordres de grandeur, comme
la différence qu’il y a entre nous et des fourmis.
Le moment où
émergera cette super intelligence constituera alors une singularité dans
l’histoire humaine. La singularité marquera un moment où toutes les
cultures, toutes les religions, tous les rapports sociaux, tous les
systèmes politiques tels que nous les connaissons seront obsolètes ou
cesseront de fonctionner.
La super intelligence sera la dernière
invention de l’espèce humaine et marquera la fin de son règne sur Terre.
Car bien-sûr, c’est notre intelligence, et non notre force physique ou
toute autre caractéristique, qui a permis la domination de l’homme.
L’existence d’une intelligence des milliers de fois supérieure à la
nôtre ne peut donc que conduire à notre déclassement, ou plus
probablement à notre disparition.
Cela dit, tout ceci est basé sur l’hypothèse qu’une IA soit un jour fabriquée. Or pour l’instant, on en est très loin. Rien ne prouve que cela soit possible, à commencer par le fait que la science n’a aucune définition précise de ce qu’est l’intelligence, et surtout la conscience. Il est facile de comprendre que prétendre fabriquer artificiellement quelque chose dont la nature nous est inconnue est une gageure...