@Hervé Hum
Ce problème a beaucoup préoccupé Isaac Asimov qui avait éprouvé le besoin d’édicter les « lois de la robotique » qui sont inhérentes à leur programmation :
Les trois Lois de la robotique
Première Loi :
UN ROBOT NE PEUT PORTER ATTEINTE A UN ETRE HUMAIN NI, RESTANT PASSIF, LAISSER CET ETRE HUMAIN EXPOSE AU DANGER.
Deuxième Loi :
UN ROBOT DOIT OBEIR AUX ORDRES DONNES PAR LES ETRES HUMAINS, SAUF SI DE TELS ORDRES SONT EN CONTRADICTION AVEC LA PREMIERE LOI.
Troisième Loi
UN ROBOT DOIT PROTEGER SON EXISTENCE DANS LA MESURE OU CETTE PROTECTION N’EST PAS EN CONTRADICTION AVEC LA PREMIERE OU LA DEUXIEME LOI.
Manuel de la Robotique
58ème édition (2058 après J.-C.)