Harari sur comment survivre au 21ème siècle
Décodage de la présentation de Yuval Harari (série Sapiens) cette semaine à Davos sur le risque de disruption technologique à base d’IA.
Davos, le fameux repaire des riches et puissants qui s’y déplacent en centaines de jets privés pour parler (un peu) écologie et (beaucoup) business. A priori pas l’endroit où l’on va faire de grandes découvertes autres que prostatiques, mais il existe des exceptions.
Une conférence organisée le 23 janvier, dans le cadre du Forum Economique Mondial, mettait en scène le premier ministre néerlandais Mark Rutte et, surtout, l’écrivain et historien israélien Yuval Noah Harari bien connu pour sa série Sapiens (1).
La présentation de Harari (dès 4:10) adresse de manière pertinente les graves questions associées à la dictature technologique, elle-même résultant de la course vers l’intelligence artificielle qui, par sa nature même, va transformer la société du 21ème siècle d’une façon dont nous n’avons guère idée.
Harari mentionne la guerre nucléaire, l’effondrement écologique et la disruption technologique comme étant les trois grands risques qui menacent actuellement la survie de l’Humanité. Les deux premiers étant déjà relativement bien étudiés, il se penche ici sur le troisième.
La classe inutile mondialisée.
En parallèle aux grands progrès que nous promettent les technologistes, Harari estime que la disruption technologique pose un risque majeur sur la structure sociale et le fait humain lui-même. Il y aurait d’une part le risque de la création d’une « classe inutile mondialisée » (global useless class), et d’autre part l’avènement du « colonialisme des données » (data colonialism) et son corollaire, la « dictature numérique » (digital dictatorship).
Cette nouvelle classe inutile découlerait naturellement du développement de l’automatisation à base d’IA, fruit de la disparition de millions d’emplois occupés par des gens n’ayant pas les moyens de s’adapter à un marché de l’emploi aussi mutant.
Cette nouvelle étape dans le remplacement de l’humain par la machine est le sujet de plusieurs études et estimations, mais il semble clair que même si cette évolution ouvre de nouveaux emplois, elle en ouvrira nettement moins que ceux qu’elle remplacera. Les laissés-pour-compte, ceux qui ne pourront pas se « réinventer » en ingénieurs en informatique ou en profs de yoga pour ingénieurs en informatique, n’auront tout simplement plus rien à faire.
Le travailleur, du moins depuis la révolution industrielle même si pour les serfs ce n’était guère mieux, luttent contre l’oppression. Demain, il lutteront contre l’obsolescence et la relégation à l’inutilité. Et cela, pour Harari, c’est bien plus terrible encore que l’oppression.
Ceci évidemment se discute, Harari entendant l’inutilité au sens économique du terme : la disparition d’une activité rémunérée sur base de sa rentabilité économique. Mais ceci n’implique pas l’inutilité sociale pour autant que le système permette à chacun de vivre. Ce nouvel équilibre, cette nouvelle raison d’être d’une partie de l’Humanité doit être au centre de nos réflexions politiques car, laissé à lui-même, ce phénomène ne pourra que générer des millions de nouveaux djihadistes, de toutes obédiences, cherchant un sens à leurs vies dans l’opposition la plus extrême à ce qu’ils ne peuvent plus être.
La révolution des processus économiques et technologiques par l’intelligence artificielle va, selon Harari, créer des vastes différences non seulement entre les gens, en scindant le monde en une élite et une « classe inutile », mais aussi entre les pays qui contrôlent cette technologie et ceux qui la subissent. Tout comme pendant l’ère industrielle les pays mécanisés prirent l’ascendant sur les pays non mécanisés, ou avant cela les armées maniant la poudre prirent l’ascendant sur celles maniant l’arc, les premiers pays à toucher les bénéfices de l’IA prendront l’ascendant sur les autres sous la forme d’un colonialisme numérique.
A ce jeu-là, il y a les USA et la Chine en tête de peloton, largement. Nous ressentons déjà les effets de ce nouveau colonialisme à travers le monopole des GAFAM : les USA contrôlent de fait, et ont accès à, la majeure partie des échanges numériques des populations européennes.
La dictature numérique.
Dernière étape, le traitement par l’IA de l’ensemble des processus économiques, institutionnels, sécuritaires et finalement politiques. Il est déjà le cas que l’administration, les banques, les compagnies d’assurance répondent aux demandes de leurs utilisateurs ou clients via des systèmes informatisés, sans possibilité de recours ou de compréhension d’un éventuel refus : c’est la machine qui décide, et selon un travail d’analyse tellement complexe qu’il en devient impossible pour un humain de le comprendre.
La dictature numérique c’est cela appliqué à tout, à toutes et à tous. La machine décide et vous ne pouvez pas savoir comment elle arrive à cette décision. Le système d’allocation des places dans l’éducation supérieure Parcourup en est déjà une illustration : non seulement la machine décide, mais en plus les paramètres de biais que son créateur ajoute à ses algorithmes de base, visant par exemple à minimiser la présence d’élèves d’origine arabe dans certaines écoles, sont indécelables.
La dictature numérique c’est également la possibilité pour la machine de nous connaître mieux que nous ne nous connaissons nous-mêmes, et de s’en servir pour nous manipuler au bénéfice de son donneur d’ordres. La manière dont s’effectue cette collecte d’informations et son usage visant à rendre nos comportements prévisibles, est déjà présentée dans ce récent billet sur le capitalisme de surveillance (2). Harari va un peu plus loin en proposant une équation pour symboliser cette prise de contrôle de l’humain par la machine :
Le contrôle total de chaque individu serait le produit de trois facteurs, qui sont premièrement la connaissance intime des processus biochimiques humains que fournit la science, ensuite l’accès à de vastes quantités de données constituées par la surveillance des populations au niveau individuel (via nos smartphones, nos profils RS, nos montres connectées etc…) et, enfin, la capacité de calcul pour combiner tout ceci de manière exploitable – et c’est là ou l’IA fait la différence.
Harari reconnaît, comme d’autres, le caractère inéluctable de cette marche en avant technologique, sauf évidemment préemption par l’un des deux autres grands dangers actuels, la guerre nucléaire ou l’effondrement écologique. Il pense que l’on peut tenter d’y faire face en reconnaissant la nécessité de définir des règles de fonctionnement autour du développement et de l’usage de ces technologies, et d’arrêter d’opposer nationalisme et mondialisation : les différentes nations doivent comprendre que leur meilleure défense face à la domination est de s’unir, non pas pour former quelque Nouvel Ordre Mondial mais pour garantir la liberté de chacun et la survie de tous.
Il n’est pas impossible que l’Humanité arrive à s’organiser pour éviter le pire, comme elle le fit un temps autour des armes nucléaires, mais la technologie IA est beaucoup plus pernicieuse et je ne vois pas comment elle peut être ainsi régulée. Or le moindre doute sur l’honnêteté d’un des participants, a priori invérifiable, légitimerait les autres à continuer leurs propres développements, et il est évident que les leaders technologiques ne vont pas simplement attendre les autres par pure bienveillance ou soucis de l’intérêt général. Money is money.
La crétinisation en marche.
Il est par ailleurs évident que les élites technocratiques, économiques et politiques actuelles ont l’intention d’utiliser ces technologies à leur propre avantage. Les Etats augmentent constamment le niveau de surveillance sur leurs populations (au nom de la sécurité), implémentent de plus en plus de processus administratifs déshumanisés (au nom de l’efficacité), abrutissent au maximum les enfants (sauf les leurs) via la création d’une dépendance absolue au numérique (des tablettes partout, mais pas de profs). Lire sur ce sujet cet excellent article par René Chiche sur la « désinstruction nationale » :
Penser n’est pas difficile pour les élèves, penser est interdit. Vous savez, penser est difficile et le demeure, même pour des penseurs professionnels ! Car « penser, c’est dire non ! » : non à la première idée qui se présente, non à la facilité, non à l’habitude et ainsi de suite. Il ne s’agit donc pas que penser devienne facile. Il est si facile de se contenter d’à-peu-près. Or savoir à peu près lire, c’est en réalité ne pas savoir lire. Et ainsi du reste : penser approximativement, c’est adhérer à un discours et réagir à des mots comme un taureau devant le chiffon rouge.
La récente loi Avia (3) remettant aux grandes plateformes numériques, non seulement un droit mais bien une obligation de censure, illustre la manière dont le capitalisme de surveillance contrôle la démocratie via la technocratie.
Il semble bien que les élites préparent d’ores et déjà la crétinisation générale nécessaire au passage d’une majorité de la population des classes moyennes et ouvrières vers la classe unique de l’inutilité. Les épidémies d’opiacés en Amérique du Nord, le contrôle orwellien de la population chinoise, les manipulations du genre de celle organisée via Cambridge Analytica pour influer sur les choix électifs, la casse des services publics visant à reléguer les classes inférieures à un service minium (tout en permettant aux autres l’accès à des services de haute qualité mais très chers) vont en ce sens.
Harari n’est pas complètement pessimiste, mais il est loin d’être optimiste. Il essaie de dire aux élites, qui l’écoutent là à Davos, que l’Histoire des régimes totalitaires ne met pas les élites à l’abri de la surveillance, des purges et des goulags. Qu’il ne faudrait pas que ceux et celles qui l’écoutent pensent qu’en fait tout va bien pour eux, que l’avènement d’un Meilleurs des Mondes à la Huxley serait tout à leur avantage. Mais je doute fort que ce message soit entendu.
Liens et sources :
(2) https://zerhubarbeblog.net/2020/01/20/nsa-gafam-et-le-capitalisme-de-surveillance/
(3) https://zerhubarbeblog.net/2020/01/24/loi-avia-avatar-politique-de-la-peste-aviaire/
19 réactions à cet article
-
Plus redoutable que l’IA et déjà là : la 5G
-
Lire : Survivre de Bettelheim. Toute utopie, dont le transhumaisme finit toujours par s’auto-détruire et nous pouvons prévoir que la technologie sera son propre assassin. Attendons le passage de Pluton (la destruction) dans le signe du verseau (2024), celui de la technologie. Curieuse de vivre jusque là.
-
@Mélusine ou la Robe de Saphir.
J’espère juste que ça arrivera à la fin de l’automne et que j’aurais le temps de mettre la numéro 5 de Mahler.Mais y aura t’il encore du courant ?. Un Mahler ne vient jamais seul..
A peine a t’on trouvé une consolation, que surgit une nouvelle préoccupation...
Cet Hariri a t’il une idée où trouver des piles ?
C’est à ce genre de chose qu’on reconnait vrai et faux prophètes.
En attendant je continue à écouter Vivaldi.
Les 4 saisons pour le prix de 3 !Il faut profiter jusqu’au bout des promotions !
-
@Mélusine ou la Robe de Saphir. Florence Foresti avait déjà articulé pour toi : « Je ne suis pas folle, vous savez ! ».
-
Le Rossignol et l’Empereur, conte d’Andersen. http://touslescontes.com/biblio/conte.php?iDconte=148
-
La Chine, une simple chauve-souris et tout le système est grippé...
-
« penser, c’est dire non ! » : non à la première idée qui se présente.
Erigeons-nous donc contre l’inutilité de cette première idée qui se présente d’une « relégation à l’inutilité » !!
Et remarquons qu’imaginer une ’inutilité sociale’ qui serait à distinguer d’une ’inutilité au sens économique’ , cela relève du même intellectualisme et de la même prétention à détenir le don de savoir reconnaître (dans quel absolu ?) ce qui serait ou non ’utile’ (que ce soit d’un point de vue économique ou social) !
L’otium est-il ’utile’ ou ’inutile’ ? :
* d’un point de vue économique ?
* d’un point de vue social ?
— sans la liberté de ne pas ’travailler’ dont ont usé tous les savants, tous les penseurs, les artiste, les philosophes ... (à commencer par un certain Diogène de Sinope : « Ôte-toi de mon soleil ! ») pourrait-on seulement imaginer aujourd’hui les notions de « économique » ou « social » ?
Inutile (-d’un point de vue économique ? — ou social ?) ce message d’un mathématicien et philosophe fort réputé :
’In praise of idleness« !
( »I hope that, after reading the following pages, the leaders of the Y.M.C.A. will start a campaign to induce good young men to do nothing. If so, I shall not have lived in vain.
")
-
Entre l’intelligence artificielle d’un coté et la bêtise naturelle de l’autre vers quel sein se tourner ? Trump, l’homme à la mèche ? Bolsonaro, celui qu’est de mèche.
L’homme moderne en charentaises avance en bordure du précipice !. Il s’en remet à ses intuitions, espérant trouver tout de même des bottes en promotion.
D’immenses incendies brûlent dans la plaine...Peut on considérer que les inondations sont une chance ?...Des foules en colère crient des slogans hostiles, à moins qu’ils ne prient. Le Black Friday les calmera t’il ?
S’il n’y avait que la crétinisation pour mettre des points d’exclamation !!
Qui nous protégera des hallebardes qui tomberont du ciel ?
!!!!!!!!!!
-
Comme le dirait Dany-Robert-Dufour pour l’argent, la technologie joue le rôle de fétiche. Il s’agit de nier le manque (donc le rel). Mais le subterfuge ne peut tenir longtemps et la « nature » prendra sa revanche. La technologie est bien une forme de féminicide. Celle qui a un « trou »....
-
Lire : il s’agit de nier le manque (donc le réel).
-
La Chine comme l’Amérique sont les pays par excellence du faux, du toc, de la reproduction. Lire Umberto ECo.
-
Merci pour cet article. J’apprécie beaucoup Harari et j’ai lu ses deux premiers bouquins, fascinants.
Pour autant, je me demande bien ce qu’il est allé faire à Davos.
Comme si les puissants de ce monde n’étaient pas au courant des tenants et aboutissants de l’IA ! C’est même pour ça qu’ils la développent, non ?
-
-
il faut dégager tous les politiques les religieux et les écolos illuminés ......
-
bon article, je pense que Davos utilise quelques lanceurs d’alerte pour se donner bonne conscience et de la bonne pub, mais entre le business et les valeurs morales, cela fait longtemps que les dirigeants ont choisi et c’est de toute façon c’est trop tard pour revenir en arrière... les solutions sont aujourd’hui fort différentes que celles de la lutte politique
-
Effectivement j’étais quelqu’un qui pensait beaucoups, mais depuis le nouveau président, et ma classe sociale pauvre, je ne peux plus penser comme a l’ancienne époque. faut peut être que je m’exile.
-
Effectivement, les conclusions d’Harari ne sont pas réjouissantes, mais sont cohérentes voire réalistes (y compris la possibilité d’une cata globale)
Ds un siècle, redécouvrira-t-on qqes « îlots de résistance protégés » de l’IA, auxquels se référer comme les peuples premiers, aux génomes intacts, avec de vraies dents, et se reproduisant avec leurs vrais z’organes, sachant écrire, réfléchir, aimer, apprécier l’air frais qui reste, et la couleur du ciel à travers les satellites de communication 5 ou 9G ?...
.
[ Début décembre vers Sydney, on a vraiment cru à... une fin du monde. Et ce bouquin d’Harari (lu après) n’en ai p’têt qu’un prélude sociétal et intellectuel... ]
-
Un ami d’obédience anarcho-marxiste, si on peut dire, m’a fait remarquer que ce genre de mise en garde relève en fait de la prophétie auto réalisatrice voulue par une pensée néolibérale dans laquelle baignent Harari et le public de Davos : la menace est inéluctable et il n’est pas suggéré de changer le système pour y échapper, seulement de l’accepter en organisant quelques garde-fous pour que le système actuel puisse persister.
-
— ajoute à ses algorithmes de base, visant par exemple à minimiser la présence d’élèves d’origine arabe dans certaines écoles
— et d’arrêter d’opposer nationalisme et mondialisation
Voici deux exemples qui démontrent que les peurs de Harari ont déjà instillé le venin qui va le débarrasser de ces mêmes peurs.... lire ci dessus :Conserver ses spécificités (exemple 1) même au detriment d’une certaine perception des droits de l’homme, comme bannir les proximités (exemple 2)
Son propos est clair, il a peur de l’uniformisation motorisée par la technologie, OK, on comprend, mais cette uniformisation est facilitée -soit disant- par ces algorithmes alors que c’est le contraire... dans la mesure où nous savons nous même piloter notre avenir.
Toujours contre cette uniformisation généralisée il en est pourtant le défenseur car le nationalisme est justement la valeur qui permet la différentiation qu’efface la mondialisation, il faut continuer a les opposer.
En clair ce ne sont pas les « nouvelles » technologies qui sont dangereuses en elles-mêmes, même matinées d’IA, mais ce sont les fantasmes d’uniformités que prônent les défenseurs d’un égalitarisme forcené alors que c’est l’équité qui est la seule valeur défendable.
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
Ajouter une réaction
Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page
Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.
FAIRE UN DON
