mursili

@sylvain

Ah oui ! Au temps pour moi.

@Eric F

Je ne suis pas abonné à lemonde.fr mais voir un article intitulé La menace de microbes dangereux fabriqués avec l’aide de l’intelligence artificielle se concrétise ne manque pas de m’inquiéter...
https://www.lemonde.fr/sciences/article/2026/09/19/la-menace-de-microbes-dangereux-fabriques-avec-l-aide-de-l-intelligence-artificielle-se-concretise_6777637_1650684.html

Il faut apprécier ici l’emploi du mot « aide »...

« Nous sommes en guerre contre l’Iran, même si ce n’est pas officiel ».

Je croyais naïvement que l’attaque du 28 février dernier était une attaque conjointe Israël-USA.

https://fr.wikipedia.org/wiki/Guerre_d’Iran_de_2026

Donc, nous découvrons qu’Israël fait la guerre à l’Iran sans l’avoir déclarée. Quelle surprise !

@lecoindubonsens

C’est vrai, je suis d’accord pour dire que Germanwings 9525 n’était pas un accident d’IA. Je mentionne cet événement comme un exemple des dangers de l’autonomie des systèmes automatisés. Il montre qu’une machine peut continuer à exécuter fidèlement une instruction reçue d’un humain alors que d’autres humains cherchent à lui faire faire autre chose. Il ne suffit pas que la machine obéisse à l’homme : le problème peut être qu’elle obéisse trop docilement à une consigne particulière et qu’elle soit conçue de telle manière que les humains ne puissent plus reprendre le contrôle. Ce problème peut se poser avec des IA auxquelles on aurait accordé une trop grande liberté de décision.

@lecoindubonsens

L’IA ne fait que ce que l’humain lui demande de faire.

Non, vous n’avez pas compris la gravité du problème. 

Dans 2001 l’odyssée de l’espace l’humain n’avait pas demandé à HAL, pris dans un conflit logique, de tuer les membres de l’équipage qui étaient maintenus en hibernation. De même qu’on peut espérer que le 28 février dernier l’humain n’avait pas demander à l’IA de faire bombarder l’école de filles de Minab (bilan : entre 108 et 168 morts) . Ou encore, vol GermanWings 9525 du 24 mars 2015. Co-pilote suicidaire, commandant de bord absent, impossibilité de déverrouiller la cabine de pilotage. Etc.