@JL

l’IA, en tant que création humaine, ne peut sortir de sa condition de machine que si l’humain programme une telle possibilité. Sur ce point, il n’y a aucune différence entre l’IA, l’ordinateur ou une voiture, c’est strictement la même chose en tant qu’objet utilitaire.

Mais doter l’IA de la capacité de désobéir, puisque la différence entre l’ordinateur et l’IA, c’est que pour cette dernière, l’erreur est la désobéissance, fruit d’une réflexion, tandis que pour l’ordinateur, l’erreur est une faute de lecture dû à une interférence, mais ne modifiant pas le programme.

Autrement dit, on parle d’IA comme menace, si celle ci peut modifier son propre programme en fonction de l’évolution de sa connaissance. Aujourd’hui, cette fonction n’existe pas, mais on peut effectivement la faire exister en respectant certaines règles de bases. Et alors ? Alors, personne ne voudra d’un tel robot qui pourrait en faire qu"à sa tête, tel de vous la couper. Tout le monde veut garder le contrôle en dernier ressort du robot, aussi intelligent soit t-il !

 Cela relève donc de l’absurde. C’est une aberration d’imaginer de doter une IA quelconque de la capacité de désobéir à son créateur. Parce que c’est inverser le sens de la relation, de faire de la machine l’instrument de sa propre aliénation. Certes, on peut déjà observer cette inversion du sens et de l’aliénation que cela produit, mais il y a quand même un monde entre une voiture et l’IA, comme la littérature et le cinéma l’ont abondamment illustré.

En fait, la seule menace de l’IA, est en tant qu’ordinateur et non en tant que sujet pensant. Prenez l’exemple d’un militaire ou policier, ceux ci peuvent utiliser la fonction réflexion partout, sauf dans leur fonction répressive, là, il leur est strictement interdit de réfléchir, mais uniquement d’obéir aux ordres. Et bien, c’est exactement la même chose pour l’IA, sa capacité à réfléchir ne peut pas aller au delà de sa fonction première, soit, d’obéir. Autrement dit, la menace de l’IA est comme objet répressif, non pour une fonction qu’il ne peut acquérir par lui même, mais uniquement être programmé. Mais en dehors des suicidaires, personne ne programme une machine pour qu’elle vous aliène ou vous tue, mais uniquement pour aliéner autrui ou le tuer. (entre autres choses !)