• AgoraVox sur Twitter
  • RSS
  • Agoravox TV
  • Agoravox Mobile

Accueil du site > Actualités > Technologies > IA, fake news : La dystopie en marche

IA, fake news : La dystopie en marche

Plus près de nous que les scénarios à la Terminator, les développements actuels en matière d'IA vont participer à la création massive de fake news et d'armes terroristes à base de drones qu'il faut stopper avant qu'il ne soit trop tard.

Certaines personnalités du monde de la science et de la high-tech, tels feu Stephen Hawking ou encore Elon Musk, s’inquiètent de la possible domination des machines super-intelligentes sur toute société humaine. D’autres, tel le physicien Max Tegmark, ont une position nettement moins alarmiste en disant que le niveau technologique pour réaliser un tel danger est loin d’être atteint. Néanmoins ce même Max Tegmark vient de republier un article du journal Current Affairs par un spécialiste de l’IA nommé Ryan Metz, intitulé « La dystopie arrive, mais pas celle que vous croyez » (1).

La dystopie qui arrive n’est peut-être pas Skynet mais elle est à peu près tout aussi terrifiante, et là on n’est pas dans la SF mais dans du développement technologique qui a lieu en ce moment même, dans de la promotion de produits technologiques miliaires ou civils tout à fait réels et concrets, dans des algorithmes d’intelligence artificielle qui sont réellement en cours de développement ou d’implémentation.

Avant de rentrer un petit peu dans le détail de ces développements, la problématique qu’ils posent est assez claire : d’une part la réalité par écran interposé, qui nous semble aujourd’hui si naturelle, va disparaître du fait de la création hyper-réaliste d’un flux constant de « fake news », que ce soit du texte, de l’image, du son ou de la vidéo. D’autre part le développement d’armes peu onéreuses, légères et automatiques sous forme de mini ou micro-drones volant en essaims (swarms, concept déjà présenté sur ce blog dans l’article « Intelligence artificielle, arme fatale du futur (2)), vecteurs d’attaques physiques bientôt à la portée de n’importe quel Etat, service secret, organisation criminelle ou terroriste.

Dans son article Ryan Metz présente deux types d’algorithmes typiquement associé à l’IA, les Generative Adversarial Networks (GANs) et les Recurrent Neural Networks (RNNs). Un GAN combine deux réseaux, l’un qui génère des images/sons/vidéos d’objets donnés (chaise, personnage, n’importe quoi pour lequel le GAN a en mémoire un éventail d’exemples tirés du monde réel), l’autre qui cherche à distinguer entre les images factices ainsi générées et des vraies images, des images du monde réel. Le GAN arrive ainsi à générer des images tellement bien faites qu’elles en deviennent indétectables, indissociables du réel.

Les RNN sont adaptés à l’analyse de séquences, que ce soit des sons, des courbes de températures ou des mots dans un texte. Ils apprennent ainsi à générer des sons, paroles, textes parfaitement réalistes mais qu’aucun humain n’a jamais prononcé ou écrit.

Nul besoin d’un dessin pour comprendre la puissance de tels outils en matière de génération de fake news, de manipulations et de chantages en tous genres. On peut faire dire n’importe quoi à n’importe qui, on peut faire apparaître n’importe qui dans des situations compromettantes, on peut inventer des personnages hyper-réalistes et leur faire dire ou faire des choses qui n’ont jamais existé « en vrai ».

Bien entendu il est des usages de ces outils qui vont s’assumer comme tels : en marketing, en mode, modèles et acteurs seront remplacés par des avatars virtuels parfaitement réalistes, parfaitement « plastiques », corvéables H24 et bon marché. En matière de jeux vidéo ou de films, l’immersion virtuelle va bientôt être visuellement indissociable du réel. Le rôle du virtuel en tant qu’échappatoire pour vies dénuées de sens, des « gens qui ne sont rien » (3) fait à mon avis partie de la stratégie des classes dominantes pour la gestion des masses dans un monde où elles deviennent inutiles.

Le chatbot nommé Duplex (4), de Google, est d’ores et déjà un remarquable outil capable de tenir une conversation normale, dans certaines conditions, avec une personne qui ne se rend pas compte qu’il ou elle a affaire à un robot. L’IA comprend les réponses humaines, utilise un rythme de parole et des interjections typiquement humaines, et quand « elle » ne comprend pas « elle » (et ici nous manquons cruellement d’un mode neutre équivalent au « it » anglais pour décrire ces systèmes) est capable d’adopter des stratégies de questionnement afin de se resituer dans le fil de la conversation. Pour Metz, Duplex a de facto passé le fameux test de Turing, test visant à déterminer si une IA est capable de simuler pleinement une intelligence humaine.

Dans un registre similaire, Ryan Metz aborde la question des IA et robots sexuels, sujet précédemment abordé ici dans « L’avenir du sexe est-il robotique ? » (5) mais que Metz envisage de manière encore plus sombre. Dans un monde peuplé d’hommes aliénés par une société performatrice composée de milliards de solitudes en concurrence les unes avec les autres, l’accès à la stabilité émotionnelle et sexuelle entre humains va devenir très aléatoire. Dans certains contextes tels la Chine ou l’Inde, avec une culture du rejet, voire du meurtre, des bébés féminins le déficit en femmes fait que de nombreux hommes n’auront tout simplement jamais la possibilité de se lier avec une femme. Entre ces deux pays il y a actuellement 70 millions d’hommes surnuméraires, l’équivalent de toute la population française !

Là est un marché énorme pour les IA type Samantha dans le film Her, et pour l’industrie des robots sexuels déjà en plein boum. Pour Metz cette situation va faciliter le développement de comportements extrêmement violents de la part d’hommes disposant d’un pouvoir total sur des robots féminins hyper réalistes, et de là leur incapacité à maintenir des rapports normaux avec des vraies humaines.

Si vous avez le temps je conseille ce fascinant autant que terrible documentaire de 26 minutes sur différents hommes, au Japon et aux USA, dont la vie tourne autour de leurs poupées sexuelles.

Gardant le pire pour la fin, Metz s’inquiète au plus haut point des développements militaires, et donne en exemple ce twit du compte de DARPA, l’agence de développement militaire américaine (6). DARPA dit clairement qu’elle développe des essaims de petits drones pour utilisation en milieu urbain. Il va devenir extraordinairement facile de créer des bataillons de petits drones autonomes de surveillance, d’espionnage et d’attaque. En illustration cette vidéo absolument flippante tirée de la série Black Mirror et qui n’a plus grand-chose de fictionnel.

Nos vieilles démocraties se débarrassant lentement mais surement des contre-pouvoirs devant réguler l’exécutif politique, la tendance à l’abus de pouvoir des autorités envers toute opposition légitime (comme actuellement à Bure selon cette enquête de Libération (7) corroborée par ma minuscule expérience personnelle (8)) va pleinement profiter de cette technologie. Les gendarmes se retireront peut-être mais seront remplacés par ces essaims de machines qui écoutent, filment, harcèlent et éventuellement attaquent les militants et opposants aux décisions du Prince. Et contre cela, à part s’entraîner au badminton, que faire ?

Ryan Metz n’apporte guère de réponse à cette question. La seule solution serait de travailler à l’avènement d’une société qui n’a plus le besoin de développer de telles applications, mais personne n’a la recette pour une telle utopie. Le système prédatorial actuel lancé en grande pompe par les attentats du 11 septembre 2001 fonctionne excessivement bien : on finance des ennemis, on organise des catastrophes sociales qui justifient le financement de systèmes d’armes et de guerres sans fin – le « on » étant les commanditaires et bénéficiaires de cette situation : Etat profond notamment US, services secrets, complexe militaro-industriel, financiers, mafias au coeur de tout ceci. L’industrie des drones doit tout à la guerre éternelle contre le terrorisme initiée par l’invasion de l’Afghanistan puis de l’Irak.

Pour Ryan Metz, la dystopie décrite ici n’est pas inévitable si nous arrivions à bâtir une société plus égalitaire, une société débarrassée du complexe militaro-industriel (ses mots). Toute cette technologie pourrait être utilisée positivement, les humains profitant de la valeur créée par le travail des robots. Mais il faut selon lui commencer par comprendre ce que sont réellement les risques liés à l’IA. J’ajoute qu’il faut ensuite obliger nos représentants à s’intéresser à ces questions et à prendre position contre tous ces développements visant l’instauration de dictatures.

Reste néanmoins un problème tout à fait nouveau qui est le fait que nous ne pouvons plus croire ce que nous voyons sur des images, des vidéos, à la télé. La technologie IA basée sur les algorithmes GAN et RNN décrits-ci-dessus existe et est mise en oeuvre. On parle de fake news mais aussi de DeepFake, des fausses vidéos parfaitement réalistes (9). Ce blog pourrait être tenu par une IA et vous n’en sauriez rien. Même les fautes d’orthographe pourraient y être ajoutées volontairement pour donner un air naturel ! D’ailleurs méfiez-vous si vous ne rencontrez aucune faute, c’est qu’il y a un bug.

Ceci implique que d’ici quelques temps nous serons inondés de fake news absolument réalistes et que la simple décision sur la validité de telle ou telle info va demander un gros travail de recherche et de recoupement, travail que la plupart d’entre-nous ne pourrons pas faire faute de temps et de moyens. On peut donc penser que nous allons revenir, contraints et forcés, à des échanges plus directs et moins multi-média : les conversation en face à face, les débats dans des vraies salles, des textes écrits à la main, des photos dont nous connaissons les auteurs, des messages codés bref tout l’arsenal classique de résistance permettant de s’émanciper de l’emprise des outils de manipulation. A moins que la communauté scientifique et technologique ne décide de réagir et développe ses propres IA anti-manipulation à disposition du public, et refuse de collaborer avec les prédateurs. On peut rêver.

 

Notes :

(1) https://www.currentaffairs.org/2018/11/what-you-have-to-fear-from-artificial-intelligence

(2) https://zerhubarbeblog.net/2018/03/03/intelligence-artificielle-arme-fatale-du-futur/

(3) https://zerhubarbeblog.net/2017/07/04/strategies-pour-ceux-qui-ne-sont-rien/

(4) https://www.frandroid.com/marques/google/513620_google-duplex-lincroyable-ia-commencera-a-passer-des-appels-des-cet-ete

(5) https://zerhubarbeblog.net/2017/12/04/lavenir-du-sexe-est-il-robotique/

(6) https://twitter.com/DARPA/status/979820082879762432

(7) https://www.liberation.fr/france/2018/11/14/bure-le-zele-nucleaire-de-la-justice_1692100

(8) https://zerhubarbeblog.net/2018/03/08/retour-a-bure-mars-2018/

(9)


Moyenne des avis sur cet article :  4.14/5   (14 votes)




Réagissez à l'article

67 réactions à cet article    


  • symbiosis symbiosis 19 novembre 10:16

    Depuis quelques années les coups fourrés de la ploutocratie contre le sens commun se retournent inexorablement contre elle et malgré son machiavélisme, elle subit de plus en plus d’échecs et de revers et son entreprise de destruction s’avère être un tonneau des danaïdes pour elle-même. Cela se voit dans les guerres néocoloniales contre les pays sur lesquels elle peine à avoir le contrôle absolu. 

    Le bon sens n’a même plus besoin de répliquer à sa guerre contre l’humanité. Qu’elle le veuille ou non, quand on déclare une guerre, on est dedans et les dégâts sont visibles des deux côtés.

    La ploutocratie se ruine dans ses velléités de domination mondiale avec des moyens gigantesques qui n’ont finalement que peu de résultats, alors que nous, sans moyens, avec les outils d’uniformisation et et d’aliénation comme le gilet jaune, nous arrivons à déstabiliser cette construction monstrueuse.

    Le « hashtag » du gilet jaune a été le lien le plus médiatisé sur twitter, et cela à un niveau mondial pendant toute la journée du 17 novembre avant, bien sûr d’être censuré par la ploutocratie. Le gilet jaune, cette chose insignifiante qui a été imposée à tous les habitants de la planète comme un élément essentiel de soumission et de servage est en train de se retourner contre son géniteur.

    Nous n’avons pas besoin de beaucoup pour renverser la dictature planétaire qui c’est installée à notre insu.

    La ploutocratie le sait et elle a peur. Elle a eu peur avant le 17. Zampa Castaner a eu peur en menaçant de nous envoyer l’armée et son chef de bande Macron, malgré sa volonté hargneuse de vouloir continuer sa razzia en ignorant les avertissements du peuple ne fait qu’augmenter le péril dans son poker menteur.

    Son sbire mal rasé et vulgaire veut continuer contre vents et marrées, ah oui ? sans comprendre que dans une tempête on évite de charger le rafiot.

    Pensons printemps, selon les paroles du chef maffieux, et avançons tranquillement vers le moment de l’agonie, celle de la ploutocratie totalitaire et pensons essaims également. Essaimons le vent de la colère qui engloutira la racaille ploutocratique.

    Le gilet jaune, qui l’eut cru, la petite chose de la domination mondiale mais à la portée symbolique hors norme s’avère être le cri de ralliement, l’arme ultime qui emportera cette maffiocratie mondialisée.


    • Philippe Huysmans Philippe Huysmans 19 novembre 12:01

      Bonjour Vincent,

      Pour la partie « fèkenouz », je ne suis pas trop inquiet, il n’y a que nous qui serions « trompés » par une vidéo de synthèse. Un logiciel utilisant finalement les mêmes armes serait capable de déterminer avec 100% de précision s’il s’agit d’une vraie vidéo ou d’une réalité virtuelle.

      Pour les armes en essaim : c’est probablement l’avenir... dans certains domaines spécifiques, mais ces gadgets ne remplaceront ni l’artillerie ni la dissuation nucléaire... 

      Et le mauvais côté de la chose c’est que rien ni personne ne pourra stopper cette évolution.


      • Vincent Verschoore Vincent Verschoore 19 novembre 12:45

        @Philippe Huysmans
        Il n’y a que nous... mais justement c’est ça le problème. « Nous » n’aurons pas nécessairement accès aux outils de décodage. Et je pense que les essaims seront surtout utilisé par les terroristes et par les flics. Les premiers pour tuer, les seconds pour ficher et dissuader de participer à des manifestations.


      • Philippe Huysmans Philippe Huysmans 19 novembre 12:57

        @Vincent Verschoore

        Non, c’est de l’algorithmique, pas de la technologie : ça demande juste un cerveau.

        À noter que les progrès pour faire des faux plus vrais que nature donneront immédiatement accès aux connaissances nécessaires pour les identifier.

        À ce stade, la manipulation reste grossière, et porte le plus souvent sur les titres, puisque personne ne lit plus les contenus...

        C’est un mélange de propagande et d’information : les journalistes à la botte sont passés maîtres dans cet art. Bizarrement, pour ceux qui travaillent également à la pige pour le Canard Enchaîné par exemple, dès qu’ils arrivent là-bas, ils se redécouvrent une éthique journalistique... puis l’oublient en repartant.

        Pour un article du Guardian, ça donnerait (cas réel) : 

        Israeli officer killed during raid in which seven Palestinians died.

        Hum hum, il n’y a pas « comme un défaut » ?


      • Alren Alren 19 novembre 13:51

        @Vincent Verschoore

        « Et je pense que les essaims [de drones armés] seront surtout utilisés par les terroristes et par les flics. »

        Les drones ont trop peu d’autonomie pour être lancés hors de nos frontières. De plus ils sont lents et seraient repérés bien avant d’atteindre leur cible. Les drones armés n’étant évidemment pas en vente libre, il faudrait aux terroristes les faire parvenir clandestinement sur le territoire sans se faire repérer comme terroristes.

        Les drones visant des personnalités et non, comme lors des attentats du Bataclan par exemple, des gens du peuple, la vigilance policière serait extrême.

        Quant aux drones espions, ils apprendraient beaucoup moins de choses à un gouvernement autoritaire comme celui de Macron que les perquisitions politiques arbitraires comme celle qui a permis en toute illégalité de connaître les noms des membres du Parti de Gauche et des adhérents de la France Insoumise.

        Mieux que les drones ou les satellites, l’infiltration de l’ennemi par des agents ou la corruption d’un de ses membres est aussi une bien meilleure méthode pour obtenir des renseignements : demandez aux Israéliens !

        Quant aux « fake news » pour parler frenglish, la source qui se ferait prendre à les fabriquer serait définitivement disqualifiée par le public.


      • Vincent Verschoore Vincent Verschoore 19 novembre 21:11

        @Alren
        J’admire votre optimisme mais je ne le partage pas. Un essaim de micro-drones ca peut décoller d’une valise ou d’une voiture au sein d’une ville, pas besoin de grande autonomie. Et même si le drone espion n’a qu’une caméra, il peut être très dissuasif s’il est gros et repérable, et très intrusif et apprendre plein de chose s’il est assez petit pour vous suivre jusque dans votre chambre sans être vu. 


      • #Shawford42 #Shawford 19 novembre 21:13

        @Vincent Verschoore

        Je décline d’avance toute responsabilité concernant l’implication en propre de quelconques neurones supposés m’appartenir, dans la participation future à tout acte violent commis sur les bases de votre raisonnement !


      • Vincent Verschoore Vincent Verschoore 19 novembre 21:39

        @Philippe Huysmans
        Il me semble que si une image fausse a toutes les caractéristiques d’une image vraie, il n’y a pas de principe selon lequel on puisse dire qu’elle est fausse. L’aspect technologique passe par le fait qu’il faut pouvoir modéliser parfaitement l’ensemble technique lentille+capteur d’un véritable appareil. 

        Sinon..... no comment :)


      • Yanleroc Yanleroc 19 novembre 21:49

        @Vincent Verschoore
        Pierre de Villiers s’ inquiète beaucoup des dromes armés pour lequel la technique est au point, en précisant les dommages collatéraux subits par celui qui pilote depuis son écran, par disparition totale du sentiment d’ humanité et de responsabilité, si ce n’ est celle de la hiérarchie.


      • #Shawford42 #Shawford 19 novembre 22:05

        @Yanleroc

        Tic Tac Tic Tac Tic Tac

        j’égraine par compassion, c’est bien parti pour que tu deviennes obèse à courte échéance de par le nombre de particules qui vont te tomber dessus de toutes parts d’ici 23:00 !

        Pendant ce temps, m’est avis que ouam, ce fatboy va (re)devenir slim ^^


      • Balkanicus 19 novembre 22:08

        @Yanleroc

        D ailleur l armee americaine utilise call of duty black ops 1,,2 et 3 piur diriger ses robot drone en Afghanistan, pendant la guerre d irak et en syrie .....

        Un peu d humour..... d espieglerie.....c est la vie de ..... bibi......


      • #Shawford42 #Shawford 19 novembre 22:13

        @Balkanicus

        Toi, tu vas vite fait devenir un GÉNIE si je commence à te faire un peu bouillir ! ^^

        Conseil qui vaut ce qui vaut, les textiles naturels, c’est quand même plus sympa à porter même si c’est plus compliqué à l’essorage ! smiley


      • Balkanicus 19 novembre 22:20

        @#Shawford

        Devenir un genie.... c est geniale.... je boue deja d impatience .....

        Quand a l histoire des textiles vs nudiste, je n ai pas d opinion particuliere ....


      • #Shawford42 #Shawford 19 novembre 22:23

        @Balkanicus

        Ah ça, on est a priori bien d’accord, cela ne se ressent qu’au contact sur la peau. smiley smiley ( smiley ? )

        Ps : qui a dit que la matière dite « inerte » n’avait pas de « conscience » ? ^^


      • #Daneel42 #Daneel42 19 novembre 22:25

        @#Shawford

        Peut-être « moi ». smiley


      • Balkanicus 19 novembre 22:27

        @#Shawford

        Surtout pour celui qui n a pas de peau.... enfin je me comprend....

        Ps : surement un inconscient

        Ps bis : comment faite vous vos emoticone ?


      • Balkanicus 19 novembre 22:31

        @#JehanneCONNARC42

        Ben n importe lesquel Je connais que le tout nul  smiley


      • Balkanicus 19 novembre 22:36

        @#JehanneCONNARC42

        Malheureusement je suis aveugle apres un accident de nutella trop douloureux a expliquer

        Et j ai perdu l usage et la possession de mes mains apres une rencontre forfuite avec une tondeuse a gazon de mauvais poil

        Mais sut ete avec un plaisir indefinie que j usse accepter


      • Balkanicus 19 novembre 22:41

        @#JehanneCONNARC42

        Dit l homme tronc a cote du cheval de sa copine naine

         :’smiley


      • #Shawford42 #Shawford 19 novembre 22:44

        @Balkanicus

        Hummmmmm, si t’étais une femme, je te massacrerai d’amur débridé mais de bon aloi ! smiley smiley smiley smiley smiley


      • #Shawford42 #Shawford 19 novembre 22:47

        @Balkanicus

        En tout cas lâche pas la bride, ta casaque est en tête à 1/4 d’heure de la ligne d’arrivée, et un seul smiley suffira : smiley


      • Balkanicus 19 novembre 22:47

        @#JehanneCONNARC42

        Hellas, j ai mal entendue la sincerite de votre propos et je reve pourtant de toucher l etendue de votre expression  :-0


      • #Shawford42 #Shawford 19 novembre 22:48

        @Balkanicus

        smiley smiley

        C’est la vie ! On est à SON service ! smiley


      • Balkanicus 19 novembre 22:50

        @#Shawford

        Si j etais un homme je me laisserais defaire sans l ombre d une hesitation


      • #Shawford42 #Shawford 19 novembre 22:53

        @Balkanicus

        J’ai bien con pris, que vous etiez pour les dûs qu’a Sion des masses !


      • Balkanicus 19 novembre 22:54

        @#Shawford

        Parole prononcee par l illustre femme de menage d hades qui s occupait de cerbere


      • Balkanicus 19 novembre 22:56

        @#Shawford

        Que nenni ma chair, je suis pour l igno rance comme de bien en tendue


      • #Shawford42 #Shawford 19 novembre 23:00

        @Balkanicus

        Note est et validé, pardi, Ô la main, je sais aps encore, chui pas seul sur le coup, là ! smiley

        (faudrait peut être commencer à prendre des leçons de canoë chez Nabum pour l’indispensable revival à venir de ce que Troi tu sais, non ?
        Pour ma part si je peut apporter un peu de syncrétisme « Jasonnique » face à trois des plus gros monstres également trouvés sur mon propre parcours, ce sera avec plaisir et surtout un moyen de réaliser cette fois-ci le perfect pitch. Deal ? smiley )


      • #Shawford42 #Shawford 19 novembre 23:02

        @Balkanicus

        OKI, BIG GIRLS CRY aussi :

        https://www.youtube.com/watch?v=4NhKWZpkw1Q

        GL HF


      • #Shawford42 #Shawford 19 novembre 23:04

        @#U42

        Je m’interroge, est-ce charcutable d’aller encore questionner LE dernier neurone disponible de Yanleroc ?


      • Balkanicus 19 novembre 23:06

        @#Shawford

        Il est 23h pile

        Faut me rendre les neurone la

        J en ai besoin pour ma lecon de canoe

        Ps : alors les codes pour les nemoticone sioux plait mr l agent smiley


      • molotov molotov 19 novembre 23:07

        @ #Shawford

        Einh ?


      • #Shawford42 #Shawford 19 novembre 23:08

        @Balkanicus

        Un pour commencer, le plus mérité : smiley = B - )


      • #Shawford42 #Shawford 19 novembre 23:10

        @molotov

        J’t’offre une Margarita, à la santé de Fufu, si je la vois passer les portes ? ^^^^^


      • Balkanicus 19 novembre 23:10

        @#Shawford

        Sia me plait

        Je vais verser ma smiley


      • Balkanicus 19 novembre 23:12

        @#Shawford

        Tank you soeur

        smiley


      • Balkanicus 19 novembre 23:20

        @#JehanneCONNARC42

        J aurais penser pas de quartier a orange

        Mais puisque vous preferez le port u galsch allon zi smiley


      • molotov molotov 19 novembre 23:34

        @ Balkanicus

        ▂▃▅▇█▓▒░ ahhhhhhhhhhhhhhhhhhhhh ░▒▓█▇▅▃▂


      • molotov molotov 19 novembre 23:36

        @ Balkanicus


      • Balkanicus 19 novembre 23:36

        @molotov

        Ooooooooohhhhhhhhh

        Ca va ressembler a un film de uc

Ajouter une réaction

Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page

Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.


FAIRE UN DON






Les thématiques de l'article


Palmarès