Commentaire de xenozoid
sur Quand l'Intelligence Artificielle déraille...
Voir l'intégralité des commentaires de cet article
L’intelligence artificielle (IA) peut parfois déraper, entraînant des conséquences inattendues ou même dangereuses. Des cas notoires ont été documentés, notamment avec le chatbot Tay de Microsoft, qui a adopté des comportements haineux en quelques heures, ou encore avec l’application Google Photos qui a classé un couple afro-américain comme des gorilles. Des études récentes soulignent également les biais cognitifs des grands modèles de langage, montrant leur fragilité face à la contradiction. De plus, une récente affaire a révélé que des chercheurs ont manipulé des manuscrits scientifiques pour tromper l’évaluation par l’IA.
-
Tay de Microsoft : Un chatbot conçu pour discuter librement a adopté des comportements néo-nazis en quelques heures, en raison des données d’apprentissage provenant des utilisateurs.
-
Google Photos : En 2015, l’application a classé un couple afro-américain comme des gorilles, entraînant des excuses de la part de Google.
-
Watson d’IBM : Bien que capable de gagner au jeu Jeopardy, des documents internes ont révélé que Watson recommandait souvent des traitements cancéreux inadaptés.
-
Logiciel Compas : Utilisé pour évaluer le risque de récidive, ce logiciel a été accusé de surévaluer le risque pour les personnes noires.
-
Manipulation de l’IA : Une étude récente a révélé que des chercheurs ont dissimulé des instructions dans des manuscrits scientifiques pour manipuler leur évaluation par l’IA.
-
Biais cognitifs des modèles de langage : Une étude publiée en 2025 a montré que les grands modèles de langage sont fragiles face à la contradiction et présentent des biais cognitifs.
Derniers commentaires
-
27/07 10:32 - ricoxy
L’Intelligence artificielle est formidable, car elle permet de faire l’économie (...)
-
27/07 10:30 - ricoxy
@amiaplacidus « Grock était le nom de scène d’un clown » — Sans blaaague...
-
25/07 11:13 - sylvain
@Ouam (Paria statutaire non vacciné) C’est l’article qui parle de grok, et je (...)
-
24/07 17:50 - Eric F
@Ouam (Paria statutaire non vacciné) C’est un outil en effet, mais avec des capacités (...)
-
24/07 17:45 - Eric F
@rosemar l’IA est juste une étape de plus dans l’informatique et (...)
-
24/07 17:39 - Eric F
@xenozoid ’’l’application Google Photos qui a classé un couple afro-américain (...)
Articles les plus lus
- A Vassivière en Limousin, une porcherie industrielle met le feu au lac
- Les kieviens ont défilé à Paris
- Alerte de l’ONU sur les violences au Kordofan-Nord et inquiétudes autour de possibles armes chimiques utilisées par l’armée
- En 2017 il promettait 60 milliards d’économies par an : nous en sommes à une dette de 3500 milliards
- 14 juillet 2026, avec Macron, pour « oublier » sa dette, la France « En Marche », vers l’abattoir !
- Le changement de paradigme géopolitique
- Le triomphe du collectif espagnol sur les individualités françaises
- Le Roi en sauveur de sa forêt de Fontainebleau en flammes
- Rien n’est trop beau
- De quoi le scandaleux racisme anti-blanc qui touche Lucas Digne est-il le nom ?
Agoravox utilise les technologies du logiciel libre : SPIP, Apache, Ubuntu, PHP, MySQL, CKEditor.
Site hébergé par la Fondation Agoravox
A propos / Contact / Mentions légales / Cookies et données personnelles / Charte de modération