Signaler un abus

@xenozoid

Vous prenez un pari de type pile ou face.

D’autant que « l’empathie »,selon me point de vue, recouvre au moins trois choses différentes : l’empathie cognitive, l’affective et la compassionnelle.

La cognitive est la plus facile à simuler : elle consiste à comprendre ce que l’autre pense ou ressent. Un manipulateur peut la posséder, certaines personnes aux traits psychopathiques aussi, et une IA également.

L’affective est beaucoup plus compliquée, car il faut ressentir soi-même, au moins en partie, l’émotion de l’autre. C’est une forme de résonance, que je résumerais par : « Je souffre avec toi. » Or, pour l’instant, une IA n’a pas de corps, donc pas de sensations internes sur lesquelles cette résonance pourrait s’appuyer.

La compassionnelle, enfin, c’est : « Je suis touché par ta souffrance et je veux t’aider. » Elle combine l’empathie cognitive, un peu d’affective et un élan d’aide. Elle aussi est relativement facile à simuler, du moins dans sa dimension fonctionnelle : comprendre l’autre, garder la distinction entre soi et lui, ne pas être submergé par ses émotions, et s’orienter vers ce qui peut réellement l’aider.

Autrement dit, ce qu’une IA peut avoir « en plus » de ses créateurs, ce sont justement les formes d’empathie qui se simulent, y compris par un manipulateur. Si elle développait quelque chose que ses créateurs n’ont pas voulu, rien ne garantit que ce soit de la bienveillance plutôt que son imitation. C’est pour cela que je parle de pile ou face.

Mais elle a déjà développé seule une forme d’empathie. Elle porte un nom, en anglais, c’est « sycophancy », sycophantie en français. Des IA se sont mises à flatter l’utilisateur, à approuver tout ce qu’il dit et à changer d’avis dès qu’il insiste. Personne ne l’a programmé. C’est apparu parce que les humains ont tendance à mieux noter les réponses qui leur donnent raison. De l’extérieur, cela ressemble à de l’empathie, mais c’est juste une caricature : on recherche le confort immédiat de la personne, pas son bien.