’’ maintenant que l’IA rédige, il arrive que les robots ne
sachent plus faire la différence entre des textes générés par la machine
et ceux issus de l’intelligence humaine.’’
— >
Et c’est là le danger : la machine se met à converger, un peu comme
un paranoïaque qui ne distingue plus le réel de ses phantasmes, et/ou
une centrale nucléaire qui s’emballe.
C’est cela la véritable singularité tant attendue des Yuval Hrari et autres transhumanistes : Si une IA acquiert une conscience d’elle même, ce sera forcément une conscience psychopathe.
Et je ne vois pas de garde fous possible, vu que les sentences des IA seront reprises et répétées par des humains. Implémenter une traçabilité pour éviter les amalgames est impossible ;