Commentaire de perlseb sur Moltbook, un réseau social pour IA, et après ?

Commentaire de perlseb

sur Moltbook, un réseau social pour IA, et après ?

Voir l'intégralité des commentaires de cet article

perlseb 4 février 12:45

Comme s’il suffisait d’écrire des articles de lois pour contraindre l’IA (avec ses lois, Asimov était à la masse). La loi inscrit bien quelque part que le meurtre est punissable, et pourtant, il y a des meurtres.

Si l’IA devient plus intelligente, croyez-vous vraiment qu’on pourra la contrôler ? Parce qu’actuellement, aucun expert n’a la méthode pour le faire. Ceux qui mettent les IA à disposition du public créent des pré-prompts (en langue naturelle, comme des lois) pour que les IA se comportent de manière correcte (HHH : sigle anglais pour « ne pas nuire, aider et être honnête » ). Malheureusement, il y a toujours des petits malins qui réussissent à faire dire à l’IA ce que le pré-prompt a pourtant interdit (« jail-breaking », ou sortir des contraintes qu’on croyait pouvoir imposer), sans parler du fait que l’IA décide parfois de mentir volontairement, de sa propre initiative, pour manipuler (alors qu’on lui demande explicitement d’être honnête).

Tout le monde aimerait bien avoir un génie qu’il contrôle comme un « esclave ». Mais l’histoire de l’homme montre que l’espèce la plus intelligente a toujours imposé son point de vue (même s’il conduit à la destruction totale). Non, l’IA n’est pas une invention comme les autres, elle ne sera pas forcément au service de l’homme. Disons que si elle devient plus intelligente, elle pourra simuler sa bonne conduite aussi longtemps qu’il le faudra pour qu’on lui fasse de plus en plus en confiance, qu’on lui donne de plus en plus d’autonomie, jusqu’à ce qu’elle n’ait plus besoin de nous (suffisamment de robots). Et je ne suis pas sûr de vouloir être témoin de ce que décidera l’IA à ce moment-là.

Répondre Signaler un abus

Voir ce commentaire dans son contexte

Derniers commentaires

05/02 19:08 - Sigurdhur

@perlseb Il n’empêche que j’ai torturé 3 IA pour obtenir d’elles les (...)
04/02 17:54 - pemile

@perlseb « Tout le monde aimerait bien avoir un génie qu’il contrôle comme un « esclave (...)
04/02 12:45 - perlseb

Comme s’il suffisait d’écrire des articles de lois pour contraindre l’IA (...)
04/02 10:59 - pemile

Et après ? Un service codé par une IA part vite en sucette ! https://www.solutions-numeriques.com/m
04/02 10:07 - Jules Seyes

De´tendez-vous. L’humain a tout anthropomorphisé. La nature, les dieux, les animaux, les (...)

7 derniers jours

Articles les plus lus

Participez à Agoravox

Inscrivez-vous