jjwaDal

@Zolko
Au début de la guerre d’Iran, c’est une I.A (de Palantir de mémoire) qui a choisi la cible qu’un missile Tomahawk a frappé, pulvérisant une école primaire de filles et tuant plus de cent enfants. Un jour elle décidera elle-même du type de missile à lancer et de la mise à feu. A partir de quel moment peut-on lui imputer les cadavres en résultant ? La dilution des responsabilités à montrer ses capacités durant la période nazi en Allemagne. Une I.A comme celles en préparation aurait des dizaines de moyens de tuer des êtres humains en masse, vu notre extrême dépendance par ex à l’électricité ou à l’informatique pour piloter des systèmes vitaux.

@ddacoudre

Nul besoin d’être devin pour imaginer que rien n’arrêtera la course de l’I.A, pas plus qu’on ne pouvait arrêter la course à la bombe H, après Hiroshima et Nagazaki. On avait demandé à l’époque à Oppenheimer s’il ne serait pas bon d’arrêter les recherches vu que la guerre était terminée et on disposait de la bombe « A ». Il avait répondu « jamais de la vie, on a été embauché pour la mettre au point, on ira jusqu’au bout ». Sa motivation était que face à une telle monstruosité les nations deviendraient plus sage pour ne pas risquer l’anéantissement de l’espèce humaine. Mais les militaires US de l’époque étaient similaires à ceux de 2026, ils voulaient disposer d’une arme que tout le monde craindrait à juste titre et les politiques y voyaient un moyen d’asseoir un statut unique de dominant pour les USA. Bien sûr l’URSS y a justement vu (à raison) une menace existentielle et a couru après la bombe H pour rétablir la parité, les deux pays se saignant financièrement pour disposer d’une arme inutilisable qui l’avenir le montrera n’empêche nullement d’être attaqué.
Les militaires veulent avoir l’I.A pour avoir un avantage décisif sur le champ de bataille et donc tout le monde va courir après. La peur d’être dépassés par les autres, la peur de ce que vont faire les autres sont de puissantes motivations. Comme a dit Musk « nous sommes en train d’invoquer un démon » et nous n’avons aucune idée de ce qui va en résulter.

Joli travail même si je n’ai jamais douté de l’existence du personnage historique « jésus ». Je suis beaucoup plus intrigué de savoir qui l’a convaincu qu’il avait une destinée hors du commun, qu’il n’avait pas à craindre la mort y compris la plus épouvantable, qui lui a donné pouvoir de faire des « miracles » (je n’ai aucun doute qu’il en a commis), pouvoirs et certitudes qui ont convaincu de nombreuses personnes à le suivre. Bien sûr il avait sans doute un charisme que ses malchanceux prédécesseurs n’avaient pas mais on ne l’aurait pas sorti du lot commun il serait resté un homme ordinaire de son temps. Le fils d’un couple ordinaire en Palestine il y a 2000 ans n’avait aucune chance de devenir ce qu’il est devenu sans intervention extérieure. Ma conviction est qu’il a été confronté à des choses extraordinaire pour un homme de son époque et cela l’a convaincu au plus profond de lui qu’il était « immortel » et avait une destinée hors du commun. Si moi je vous dis demain que vous pouvez aller au supplice et qu’il n’y a rien à craindre, je doute d’emporter votre adhésion. La sienne était faite. « Pour quelle raison ? » est ce qui devrait nous interroger .
Plus récemment on a eu « Lourdes » et « Fatima » qui nous donnent des pistes sur ce qui a pu se passer il y a 2000 ans.

« le 15 septembre 2017, devant des millions de téléspectateurs, Emmanuel Macron, avec F. Bayrou, son garde des sceaux de l’époque, livrait son premier mensonge : »Il est désormais impossible d’être élu quand on a un casier judiciaire B2."
Rien de plus faux : en 2025, il est toujours possible de se présenter à une élection et d’être élu après avoir été condamné par la justice, alors qu’il y a 396 métiers où l’on exige un casier judiciaire vierge.
[Pilleurs d’Etat, Philippe Pascot]
Quand on vote les lois un petit amendement pour s’en protéger n’est pas chose bien difficile. Sauf que ce qui marche pour les copains marche aussi pour les ennemis, raison pour laquelle il faut contrôler l’arbitraire des décisions de justice, ce qui est le cas…
C’est un métier.

Je voyais ce matin que les CEO d’Anthropic et OpenAI semblent d’accord pour lever le pied et encadrer les recherches un peu mieux. Le risque envisagé est effectivement de voir leurs IA échapper à tout contrôle et commettre des dégâts sinon existentiels pour l’humanité mais a minima catastrophiques sur le plan économique (on parle d’un arrêt complet de l’internet mondial par ex, pas une paille…). A de nombreuses reprises déjà, les chercheurs ont eu la désagréable surprise de voir leur modèle d’IA contourner les barrières qui lui étaient opposées pour faire des choses non prévues et potentiellement dangereuses. Avec « Starshield » en déploiement (une version dégradée du « Skynet » du film « Terminator ») et l’arrivée de robots sur le champ de bataille qu’aucune intelligence humaine ne pourra contrôler en direct on a de très gros soucis à se faire en laissant libre cours aux capacités d’auto apprentissage des grands modèles d’IA. On pourrait se retrouver dans la situation de ne pas pouvoir comprendre en temps réel où veut en venir une IA et donc de faire face à des conséquences totalement imprévisibles mais probablement fâcheuses dans nos sociétés hyper connectées, avec de l’informatique absolument partout. La complémentarité de la robotique et de l’IA pourrait nous jouer un très mauvais tour si on avance la tête dans le guidon sans comprendre où nous allons quand nous en avons encore le temps. On pourrait franchir une limite où l’IA serait capable de dissimuler ses véritables « intentions » pour faire aboutir sa tâche quelle qu’elle soit. On n’a jamais été confronté à une forme d’intelligence sans empathie et on pourrait avoir la surprise en lui demandant de trouver des solutions pour protéger l’environnement terrestre d’aboutir logiquement à la solution qu’il faut supprimer l’espèce humaine qui en est la cause majeure de dégradation, quand nous penserions implicitement qu’elle va chercher des solutions tenant compte de notre présence...