Ne nous faisons aucune illusion. Nous sommes des apprentis sorciers et nous le demeurerons jusqu’à ce que nous nous brûlions les ailes. Les écolières de Minab au début de la dernière agression (en date) contre l’Iran ont par ex été désignées comme cible par une IA qui ne s’est pas posé la question de savoir si les images de la zone qu’on lui fournissaient n’avaient pas vu une modification en 15 ans. Des chercheurs ont volontairement effectué un test sur une IA en lui confiant une tâche a priori impossible pour voir sa réaction et ont été stupéfait de voir qu’elle avait trouvé une parade logique pour contourner les obstacles à laquelle aucun d’entre eux n’aurait songé, le développement des missiles hypersoniques exigeant un temps de réaction ultra rapide mettra l’IA au cœur même des systèmes de défense au risque d’envoyer la sauce par précaution suite à un bug de détection, les militaires US mettent en place l’équivalent de « Skynet » (Terminator) en imaginant que le tout restera sous contrôle malgré sa grande complexité. Michel Serres dans une conférence à l’INRIA sur les nouvelles technologies montrait le cheminement de l’humanité déléguant de plus en plus de tâches à des outils puis des machines, puis des automates, le tout pour avoir plus de temps pour la créativité. Nous nous apprêtons à laisser ce dernier bastion à des IA qui seront capables de trouver des solutions qui nous sont inaccessibles et finiront par décider par procuration. Dans nos sociétés ce n’est pas pour rien qu’on ne laisse pas nos enfants décider à notre place de la gestion des affaires. L’idée qu’on pourra gérer cette nouvelle révolution comme les précédentes est discutable. On a esquivé le choc des précédentes en faisant exploser notre impact sur l’environnement pour alimenter les centaines de millions d’esclaves mécaniques qui permettent à des activités substitutives de pallier aux destructions d’emplois qu’elles ont engendré. La boulimie extrême en ressources minières et énergétiques de l’IA va nous pousser un peu plus près des limites des écosystèmes sans qu’on voit clairement là où ça pourrait casser. On s’approche toujours plus d’un scénario de type « Planète interdite », vieux film de fiction et splendide métaphore du monde contemporain en espérant avoir un peu plus de chance qu’eux.