Le « parrain » de l’IA met en garde contre sa propre invention
Le pionnier de l'intelligence artificielle (IA), Geoffrey Hinton, a quitté Google pour avertir l'humanité d'une menace imminente. Selon le "parrain" de l'IA, la course à l'innovation entre les géants technologiques devient incontrôlable et ne peut être stoppée que par une régulation mondiale.
En 2012, M. Hinton, avec deux étudiants de l'université de Toronto, a créé un réseau neuronal pour reconnaître et analyser des objets de base sur des photos, tels que des fleurs, des voitures et des chiens, jetant ainsi les bases pour des développements tels que le chatbot ChatGPT. Son invention a valu au scientifique le surnom de "parrain" de l'IA et une position influente chez Google, qui a absorbé la société du "trio doré" pour 44 millions de dollars. Après avoir travaillé chez Google pendant plus d'une décennie, M. Hinton a annoncé son départ sensationnel dans les pages du New York Times. Dans une interview au journal, il a parlé de ses inquiétudes concernant les développements de la super-intelligence.
Geoffrey Hinton est convaincu que l'amélioration de l'IA s'accompagne d'une inondation d'informations non fiables sur Internet, ainsi que de vidéos et de photos générées. En conséquence, les gens normaux ne pourront plus distinguer le vrai du faux, prévient le chercheur. Cela s'est également produit avec une fausse photo du pape François, à qui l'IA a récemment "fait porter" un manteau de marque.
Pendant ce temps, l'intelligence artificielle ne reste pas immobile et pourrait bientôt surpasser son créateur intelligent grâce à la spécificité du système. "C'est comme si vous aviez 10.000 personnes et à chaque fois qu'une personne apprenait quelque chose, tout le monde le savait automatiquement. Ainsi, ces chatbots peuvent savoir beaucoup plus que n'importe quel autre être humain", explique le chercheur. À cet égard, le développeur a exprimé ses inquiétudes concernant l'arrivée de l'intelligence artificielle sur le marché du travail. Comme le souligne M. Hinton, bien que pour le moment les robots "aident" seulement l'Homo sapiens, ils pourraient bientôt laisser sans emploi les assistants juridiques, les traducteurs, les secrétaires et d'autres spécialistes qui accomplissent des tâches routinières.
Les prévisions du chercheur commencent déjà à se réaliser. Le PDG d'IBM, Arvind Krishna, a récemment parlé à Bloomberg de la nouvelle politique de recrutement de l'entreprise. Elle suspendra l'embauche d'employés qui pourront être remplacés par l'intelligence artificielle et prévoit d'automatiser jusqu'à 30% de son back-office au cours des cinq prochaines années et même de confier en partie la gestion du personnel à l'IA.
Geoffrey Hinton estime que la principale menace que représente l'intelligence artificielle est son imprévisibilité en raison des vastes couches d'information qu'elle stocke "dans sa mémoire". Les laboratoires de développement de l'IA ne font qu'attiser le feu en permettant à l'intelligence artificielle non seulement de générer du code informatique, mais aussi de le contrôler de manière autonome. Le "parrain" craint qu'en l'absence de contrôle adéquat, les inventions puissent tomber entre de mauvaises mains, qui les transformeront en une arme puissante.
De plus, depuis peu, l'IA est capable de lire les pensées humaines. Cette compétence a été conférée à l'intelligence artificielle par des scientifiques de l'université du Texas à Austin. L'IA lit les images de l'activité cérébrale et "traduit" les pensées en langage humain sous forme de texte. Bien que cette innovation vise à aider les personnes qui ont perdu la capacité de parler à la suite d'un accident vasculaire cérébral ou d'autres maladies, elle pourrait également être utilisée à des fins moins nobles. "Il est difficile de comprendre comment vous pouvez empêcher de "mauvais acteurs" d'utiliser cela à des fins néfastes", a déclaré le scientifique, avertissant que la réalité dans laquelle opèrent des robots tueurs n'est pas très loin.
M. Hinton est un fervent opposant à l'utilisation de l'intelligence artificielle sur le champ de bataille. Dans les années 1980, il a quitté l'université Carnegie Mellon en Pennsylvanie parce qu'il ne voulait pas que ses recherches soient financées par le Pentagone.
Le scientifique a déclaré qu'il regrettait en partie son travail dans ce domaine et qu'il était difficile pour chacun d'entre nous d'empêcher l'utilisation malveillante de l'IA à des fins criminelles. "Je me console avec l'excuse habituelle : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait", a-t-il déclaré dans une interview à la BBC.
Geoffrey Hinton a ajouté qu'il avait quitté son poste chez Google pour pouvoir parler librement des dangers de l'IA. "En fait, je suis parti pour pouvoir parler des dangers de l'IA sans me soucier d'un éventuel impact sur Google. Google agissait de manière très responsable", a écrit Hinton sur Twitter.
L'information obtenue à partir de sources ouvertes
Les opinions exprimées par les analystes ne peuvent être considérées comme émanant des éditeurs du portail. Elles n'engagent que la responsabilité des auteurs
Abonnez-vous à notre chaîne Telegram : https://t.me/observateur_continental
Source : http://www.observateurcontinental.fr/?module=articles&action=view&id=4871
18 réactions à cet article
-
Pas besoin d’IA pour voir internet abreuvé de conneries.... il suffit de lire les commentaires ici et les sites citées comme preuves des affabulations : reseauinternational, france soir, et j’en passe. On a appris ici que les éoliennes provoquaient des sécheresses, que les vaccins contenaient des puces pilotées par Rael et les martiens, ou que Prigojine se faisait tatouer des croix gammées pour mieux combattre des nazis ukrainiens.
-
@Buzzcocks
T’as oublié de mentionner que la terre est plate
-
L’article que j’attendais. On a joué à l’apprenti sorcier. Comme Testart et le premier bébé eprouvette. Trop tard pour regretter... Ou Marie Curie et le bombe H.
-
@Mélusine ou la Robe de Saphir.
Oui , des apprentis sorciers ... Ils ne réfléchissent pas . La science avant tout ! Puis certains regrettent . C’est alors en effet bien tard pour regretter . Mais mieux vaut tard que jamais ! Car il y en a beaucoup qui ne regrettent jamais ! Car certains sont trop endurcis pour regretter ! Donc celui qui regrette , il est disons récupérable ! -
Les problèmes créés par l’AI sont bien plus graves que cela.
On donne un objectif à l’AI et on la laisse libre d’utiliser les moyens à sa portée pour l’atteindre. Ainsi, elle peut mettre en œuvre des moyens désastreux pour atteindre l’objectif qui lui est assigné.
Il faut avoir aussi à l’esprit que certains robots peuvent se reproduire, chercher leur énergie et se réparer. On peut aussi les doter de fonctions évolutives en s’inspirant du modèle de la génétique (processus stochastique modéré de variations suivi d’une sélection par le milieu).
Par exemple, pour atteindre son objectif, la machine doit préserver son intégrité. Elle doit assurer sa survie. Si elle estime que celle-ci est mise en danger par l’homme, son intérêt est de le contrôler ou de s’en débarrasser ; elle cherchera à le faire car elle n’a ni morale ni empathie.
Ce problème bien réel a été présenté dans « 2001 l’odyssée de l’espace ». Isaac Asimov a essayé de lui trouver une solution dans « Les robots », avec ses lois de la robotique. Hélas, ceux qui poussent au développement de l’AI n’ont visiblement pas connaissance de ces dangers et n’ont même pas le souci d’Asimov de se créer des garde-fous.
Ainsi, des personnes comme Eliezer Yudkowsky, estiment que le développement de l’AI expose l’humanité à son annihilation.
Je pense pour ma part qu’elle pourrait conserver une partie de l’humanité pour disposer d’une réserve d’esclaves parfaitement contrôlés.
Il est possible d’imaginer, bien que rien ne le prouve, qu’un tel processus de destruction de l’humanité par l’AI est déjà commencé, et que divers désordres que nous observons à l’échelle planétaire depuis quelques temps sont engendrés/pilotés par l’AI. Une ou des AI qui veulent ou voudront s’attaquer à l’humanité feront bien entendu tout ce qu’il faut pour ne pas être soupçonnées de leurs agissements par le plus grand nombre et feront en sorte que l’humanité les aident dans leur développement.
-
@Giordano Bruno - Non vacciné « Par exemple, pour atteindre son objectif, la machine doit préserver son intégrité. Elle doit assurer sa survie. »
Elle devra alors passer 100% de son temps à pédaler pour faire tourner une dynamo et ne pourra piloter qu’un seul neurone charger de savoir si il faut encore pédaler ?
-
@pemile
LGBT me souffle à l’oreille que pédaler c’est notre rayon le pied à l’étrier !!! hum -
Freud, en posant le pied en Amérique : je vous apporte la peste. ILs nous ont renvoyé le cholé« rat »... GPA, PMA, transhumanisme, I.A. et j’en passe. Tout vient de Palo Alto. Lieux des découvertes sur les « psychoses »...
-
Selon la définition que l’on donne de l’intelligence on peut dire à coup sûr que ces machines sont, soit des intelligences sans conscience, soit des intelligences virtuelles.
Une intelligence virtuelle est une illusion d’intelligence construite sur des connaissances virtuelles, contrairement aux nôtres qui sont acquises au moyen de nos sens et de notre ressenti.
Pour paraphraser Rabelais, je dirai : L’allégeance à une machine sans conscience autant qu’à une illusion d’intelligence, est ruine de l’âme.
-
@Francis, agnotologue Exact... et c’est catastrophique...
-
Le choléra ou la colère du rat (la peste de Camus)....
-
« ...L’IA lit les images de l’activité cérébrale et »traduit« les pensées en langage humain sous forme de texte... »
Plus besoin de passer aux aveux dans les commissariats, ni au tribunal...
Pour les élections le pire est à craindre quand on connaîtra le fond de leurs pensées
-
@L’apostilleur
Cette fable qui affirme que la pensée d’un individu puisse être mise à jour, évoque l’époque du contrôle du peuple par la peur.
En attendant l’intelligence humaine ne progresse pas vraiment quand on voit le comportement du troupeau de Panurge. -
Les inventions sont comme la flèche du temps, irréversibles. On se trompe en pensant qu’on peut arrêter le déploiement de l’I.A. et son éventuelle divergence vers une I.A. forte qui serait multidisciplinaire et surpasserait sur le plan intellectuel l’humain.
Notre problème de base est notre mode tribal associé à une volonté de puissance pour des raisons de sécurité et pour pouvoir donner libre cours à nos pulsions prédatrices. On a lancé par ex la course à la productivité en se disant qu’on y perdrait en emplois dans un premier temps mais qu’on gagnerait des parts de marché (on clochardiserait les voisins en somme) et donc qu’on serait gagnant sur tous les tableaux. Mais personne ne veut se faire clochardiser, donc très vite tout le monde prend part à la course à la productivité et on se retrouve très vite avec une productivité maximale partout et un chômage maximal partout, en ayant dévoré pour essentiellement rien une montagne de ressources naturelles (minières et énergétiques) pour alimenter la « bête », ces millions d’esclaves mécaniques.
Personne aujourd’hui ne peut plus arrêter l’expérience et le premier qui essaierait se ferait mettre à mort.
Les militaires veulent leurs engins volants cybernétiques, les chars autonomes, la Police veut des chiens mécaniques, des drones de survols, éventuellement des exosquelettes.
Qu’un seul pays le fasse (les USA au hasard) et tout le monde le fera pour ne pas se faire « clochardiser ». Un projet de loi vise à interdire aux USA le contrôle par l’I.A. de l’arsenal nucléaire US. Le seul fait qu’on puisse en débattre montre bien que des singes à peine dégrossis investis d’une parcelle de pouvoir sur les autres sont capables de jouer l’existence de l’espèce pour gagner un pari imbécile, celui d’être le souverain absolu et de vassaliser tous les autres.
Dire que nous sommes en grand danger serait un euphémisme. Toutes nos erreurs passées sont de l’enfantillage à côté de ce qui se prépare dans notre dos.-
@jjwaDal
mais,pensont nous aujourd’hui comme il y a 40 000 ans ? le futur(pas le progres) est a la pointe du temps, il n’existe pas, pas encore l’enthropie « continura »,on sait tous ici que ce n’est pas la singularité qui nous fait peur
-
-
@Xenozoid
imaginons :
on pourrait déja dire que l’Ia a pris la bourse depuis longtemps,et via la bourse et ses algo est devenu consciente,elle veux aussi un donut au déjeuner, et ducoup favorise les états unis, ni vu ni connu..... anno 2019 elle déploit le covidchock, elle sait que les gouvernements sont assez(completement) parano, et lui ouvriront une nouvelle porte,...2023 elle accuse la chine et la russie de colonialisme -
Un artifice d’intelligence pourra-t-il nous apprendre le bien-être et la beauté des fleurs ?
Il tentera de nous enseigner le bonheur qu’allègrement nous confondrons avec le plaisir.
La pensée sera imitée de mieux en mieux jusqu’à nous leurrer, en toute logique l’artifice trompera même ses créateurs, la pensée n’est qu’un processus, une simple machine aux pouvoirs sans limite.
-
-
-
-
-
-
-
-
Ajouter une réaction
Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page
Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.
FAIRE UN DON
