Selon l’un des créateurs de l’IA, celle-ci pourrait détruire l’humanité avant 2050 !
Déjà en 1992, le mathématicien et auteur de science-fiction Vernor Vinge prédisait que : « Dans les trente ans, l’humanité aura les moyens de créer une intelligence superhumaine. Peu après, l’ère de l’espèce humaine aura pris fin. »
Trente ans plus tard, comme le prédisait Vernor Vinge, nous constatons que l'intelligence artificielle est devenue une réalité incontournable.
Que dire de la seconde « prédiction » de Vernor Vinge, concernant la disparition de l'humanité ?
Le prix Nobel de physique 2024, le Britannique Geoffrey Hinton, considéré comme étant l’un des pères fondateurs de l’intelligence artificielle, n’exclut pas la possibilité que l’intelligence artificielle puisse détruire le monde dans moins de trois décennies.
Évidemment, Geoffrey Hinton n'est pas le seul à s'inquiéter d'un futur contrôlé par les IA. Yoshua Bengio, un autre précurseur dans ce domaine, avait déjà affirmé que l’IA était l’invention la plus dangereuse de l’histoire de l’humanité.
Alors avons-nous ouvert la boîte de Pandore ? La fameuse singularité technologique qui avait été annoncée pour les années 2030 est-elle déjà une réalité ?
Qu'est-ce que le point de singularité ?
La définition la plus courante se contentait de dire que l’invention de l’intelligence artificielle déclencherait un emballement du développement technologique qui aurait des conséquences imprévisibles pour les hommes.
Ou encore que l’intelligence artificielle pourrait atteindre un point d’auto-amélioration au-delà duquel nous serions confrontés à des bouleversements imprévisibles touchant l’ensemble de la société humaine.
Pourtant, dès 1965, le mathématicien Irving John Good, dit du point de singularité : « Mettons qu’une machine supra-intelligente soit une machine capable, dans tous les domaines d’activités intellectuelles, de grandement surpasser un humain, aussi brillant soit-il. Comme la conception de telles machines est l’une de ces activités intellectuelles, une machine supra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors sans conteste une « explosion d’intelligence », et l’intelligence humaine serait très vite dépassée. Ainsi, l’invention de la première machine supra-intelligente est théoriquement la dernière invention que l’Homme ait besoin de réaliser ».
La dernière invention que l'humanité ait besoin de réaliser !
Et cela sera effectivement peut-être la toute dernière invention de l'homme.
Ce que Irving John Good expliquait en 1965 a été oublié : « Une machine supra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors sans conteste une « explosion d’intelligence » et l’intelligence humaine serait très vite dépassée. »
Autrement dit, les intelligences artificielles, une fois devenues suffisamment intelligentes, seraient capables de s’améliorer et de se mettre à jour par elles-mêmes pour constamment améliorer leurs capacités. Elle évoluerait technologiquement à une vitesse incompréhensible pour les humains.
Le point de singularité est le point de départ de la croissance exponentielle des capacités de l'intelligence artificielle, capacité à se reproduire et à se reprogrammer toujours plus vite .
La théorie de la singularité affirme que lorsque la technologie progressera à un certain niveau, elle pourra entrer dans un cycle récurrent d’auto-amélioration. Cela conduirait à une explosion de l’intelligence, réduisant à néant toute l’intelligence humaine combinée, conduisant à une ère extrêmement instable.
Chaque nouvelle machine sera plus performante ( intelligente ) que sa créatrice. En quelques mois ou même en quelques semaines, les créateurs humains de la machina-ex-deus ne seraient plus en capacité de comprendre leur création. Nous aurons ouvert une fois de trop la boite de Pandore.
Comment pourrions-nous comprendre ce dieu issu de nos ordinateurs puisqu'il aurait la possibilité d'augmenter ses capacités « cognitives » de manière exponentielle ?
Atteindre le point de singularité, c'est le barrage qui cède ! L'horizon au-delà duquel nous n'avons plus aucune visibilité sur notre propre développement.
À l'heure actuelle, il n’existe aucune réglementation nationale ou internationale, aucun garde-fou, mis à part le timide texte de loi européen AI Act en vigueur depuis mars 2024. Mais aucun texte, aussi contraignant soit-il, ne sera en mesure de contraindre à la moindre précaution, les États ou les entreprises voulant prendre de l'avance sur les concurrents.
Aucune mesure gouvernementale n’empêchera le développement des IA hors de contrôle.
Nous sommes à la veille du point de singularité à partir duquel nos machines commenceront à se répliquer et à s'améliorer d'elles-mêmes en toute autonomie.
« Face à un enfant de trois ans, nous avons le contrôle. Or avec l’IA, c’est nous l’enfant de trois ans », rappelle Geoffrey Hinton.
« Nous serions confrontés à des bouleversements imprévisibles touchant l’ensemble de la société humaine » prédit un article de « trustmyscience », et c'est le moins que l'on puisse dire puisqu'à partir de ce point de basculement, l'existence de l’espèce humaine pourrait être remise en question. De manière définitive. Et il n'y aura pas de John Connor pour nous sauver.
67 réactions à cet article
-
Oui mais l’homme a toujours le bouton en main, l’IA nécessite de gigantesques datacenter et de l’énergie sans l’humain pas d’avenir.
-
@sophie
En 1970, lors de l’installation d’un énorme IBM 70 dans la succursale d’un grand groupe international, j’avais prophétisé que l’informatique représentait un immense espoir pour l’humanité mais que ce qui m’inquiétait, c’était les gugusses humains qui tourneraient autour. L’évolution actuelle du numérique asservissant l’usager le démontre de plus en plus. Et sauf virage sociétal à 180 °, l’I.A. risque bien de mettre un point final à l’expérience -
Heureusement, pour toute cette « intelligence artificielle » il n’y aura pas assez d’énergie dans le monde, pas assez de terres rares... et selon les désirs de « ces Messieurs » trop d’humains !
-
Aucune intelligence dans l’IA.
Seulement de l’informatique, rien de plus stupide qu’un ordinateur, il fait bêtement tout ce qu’on lui dit de faire sans réfléchir, mais un outil qui fait tellement plus vite que les humains ...
Comme tout outil, cela peut être génial ou une catastrophe, tout dépend des humains qui l’utilisent.
C’est comme si on disait que le nucléaire peut détruire l’humanité en 2050 : la bombe atomique mais aussi une énergie bien utile ...
-
sophie, babelouest, lecoindubonsens
Me voilà rassuré ! Les « pères » de l’intelligence artificielle en savent beaucoup moins que les commentateurs d’agoravox.
et sur la matière noire ? avez-vous des infos à communiquer aux chercheurs qui se décarcassent certainement pour rien puisque les infos se trouvent ici même.
-
@marly
« Me voilà rassuré ! Les « pères » de l’intelligence artificielle en savent beaucoup moins que les commentateurs d’agoravox. »
vous avez donc bien fait de venir ici -
@marly « Me voilà rassuré ! Les « pères » de l’intelligence artificielle en savent beaucoup moins que les commentateurs d’agoravox. »
Yann le Cun, prix Turing avec Hlnton en 2018https://mondetech.fr/yann-lecun-lintelligence-artificielle-ne-menace-pas-lhumanite/
-
@marly
L’auteur regrette déjà d’avoir donné des perles aux cochons,
mais dans ce cas pourquoi écrire ici -
@marly
sur la matiere noire, rien à dire, mais concernant l’informatique, mon métier, je ne vois rien de déplacé ou prétentieux à écrire
"Aucune intelligence dans l’IA.Seulement de l’informatique, rien de plus stupide qu’un ordinateur, il fait bêtement tout ce qu’on lui dit de faire sans réfléchir, mais un outil qui fait tellement plus vite que les humains ...
Comme tout outil, cela peut être génial ou une catastrophe, tout dépend des humains qui l’utilisent.
C’est comme si on disait que le nucléaire peut détruire l’humanité en 2050 : la bombe atomique mais aussi une énergie bien utile ..."
Que contestez-vous exactement ?
-
@PaulAndréG (PàG)
je regrette plutot que des gens soient si plein de leurs certitudes qu’ils leur est impossible d’envisager que l’un des créateurs de l’intelligence artificielle puisse connaitre son sujet.cela me fait penser au curé de village qui explique à Dieu le concept de divinité
-
@lecoindubonsens
une intelligence artificielle vient de s’autopirater pour gagner ...
je « conteste » l’amalgame -informatique—et -intelligence artificielle-
je conteste également que l’on puisse rejeter d’un revers de main ou d’un haussement d’épaule méprisant les craintes des créateurs de l’intelligence artificielle.
vous et les autres avez peut-etre raison contre l’avis de ces chercheurs, mais je conteste par dessus tout le fait que l’on ne s’interroge pas. -
-
@marly « s’autopirater pour gagner une partie d’échecs »
S’autopirater ? Un bug dans le titre ?
-
@pemile « S’autopirater ? »
Pirater le système de fichier de Stockfish !
-
@marly
Des détails sur cette annonce qui sent le comte de fées !
-
@marly
Quand on voit le prompt utilisé par Palisade, l’histoire n’est plus la même !
-
@marly
Et que Palisade publiait un mois plutôt ce genre d’outil !
-
@marly " je regrette plutot que des gens soient si plein de leurs certitudes qu’ils leur est impossible d’envisager que l’un des créateurs de l’intelligence artificielle puisse connaitre son sujet."
Yann le Cun le connaît autant, on peut aussi regretter que vous ne présentez qu’un seul des discours ?
-
@marly "je « conteste » l’amalgame -informatique—et -intelligence artificielle-
je conteste également que l’on puisse rejeter d’un revers de main ou d’un haussement d’épaule méprisant les craintes des créateurs de l’intelligence artificielle«La référence que vous donnez indique »pour gagner une partie d’échec, l’IA n’a même pas tenté de développer des stratégies liées au jeu d’échecs. À la place, il s’est tout bonnement dirigé vers le système de fichiers contrôlant le jeu, réécrivant le match en sa faveur«
Si vous pensez que la décision et la mise en oeuvre de cette »tricherie" est l’oeuvre d’une machine, et non d’un humain, votre naïveté serait inquiétante.
Donc, comme déjà écrit, n’affolons pas bêtement tout le monde en imaginant que la machine va dominer les humains de sa propre initiative,mais effectivement (toujours comme déjà écrit) interrogeons nous sur ce que les humains vont faire de ce puissant outil (peu importe qu’on l’appelle informatique ou IA) = le meilleur ou le pire
-
@marly
et sur la matière noire ?
Si « black lives matter », alors « black matter lives »
-
@marly
Moi ce que je conteste c’est qu’on autorise dans un programme d’IA l’autopiratage. Ce n’est pas une preuve d’intelligence du programme mais d’inconséquence de ceux qui les écrivent. -
Pour Yann le Cun, co-lauréat du prix Turing en 2018 avec Hinton, ne croit pas du tout à cette prétendue supériorité de l’IA sur l’homme et déclare au contraire que ces outils « pourrait en réalité sauver l’humanité de l’extinction »
-
@pemile
Sauver l’humanité ! pour quoi faire avec 10 milliards de bipèdes au chômage...sans oublier les 3 milliards de drogués et tout se qui en découle !!! CQFD ? -
@pemile
Oui, mais il y a aussi des scientifiques qui pensent exactement le contraire.
Dont le Prix Nobel de physique en 2024, considéré come le père de l’IA, le Britannique Geoffrey Hinton. Pas de la tarte. Et il est loin d’être le seul. -
@charlyposte
En effet, mais c’est là que l’IA pourrait trouver toute sa place, par exemple un kit mondial de test suivi d’élimination automatique et immédiate de tout bipède au chômage ou drogué (ou tout autre critère à déterminer...). A la fin, il y aurait beaucoup moins de monde, et seulement les meilleurs !
-
@ZenZoe
esperons que tu te retrouves bientot au chomage alors, ca fera un connard de moins. -
@pemile
pas tres convaincant, il dit ca comme ca, sans rien justifier ni expliquer. -
@sylvain « il dit ca comme ca, sans rien justifier ni expliquer »
Mais fait confiance, il y a du fond derrière ! -
@pemile
ce serait rassurant, on est pas pret -
@pemile
Vivement une zappette pour mettre pet mile au lit à 20 heures pétante -
@sylvain
C’est bien, tu comprends le second degré !
Pauvre cloche va... -
Je reste optimiste sur les capacités de nos cervelles organiques à surpasser les plats de nouilles au silicium que sont les ordinateurs.
Dans mes explorations du lambda-calcul, un langage formel créé dans les années 30, soit dix ans avant l’ère des ordinateurs, j’ai vu défiler des codes remplis de cascades de lambdas, par exemple celle qui liste les milliers de mouvements de disques dans le jeu des Tours de Hanoï. J’en parle dans la colonne 5) de cette page http://lambdaway.fr/workshop/index.php?view=noosphere ).
En voici quelques extraits :
« Je ne peux pas m’empêcher de voir une similitude entre cette cascade de lambdas et la cascade de notes illustrant « La danse Macabre », un déluge de notes que Camille Saint-Saëns a pu concevoir dans sa tête, écrire sur une partition en suivant les règles strictes du solfège, et le faire exécuter par une pianiste virtuose, dans une vidéo qui nous permet de découvrir de façon « visuelle » la cascade de notes et les motifs entrelacés
...
Combien de temps a-t’il fallu à cette pianiste pour mémoriser ces milliers de notes et les confier « aveuglément » à ses dix doigts courant sur le clavier à la vitesse de l’éclair ? Lui laissant le choix ultime de les activer à son rythme, retards, attentes et accélérations, et d’apporter la touche d’incertitude et d’émotion qui font l’oeuvre d’art.
...
Bien heureusement, cette pianiste n’a pas eu à mémoriser des milliers de notes. Elle a mémorisé les arrangements mélodiques et les harmonies, les abstractions, et elle a laissé à son cerveau la responsabilité d’en faire l’application à l’ensemble des 7+5 = 12 notesréparties sur les 6 octaves du piano. A la façon dont on déplace les disques des tours de Hanoï. Suivant la même logique automatique.
...
-
@riemann66
Cela me fait rêver à la possibilité de faire fonctionner le λ-calcul dans notre cerveau à la même vitesse. Il a fallu longtemps à cette pianiste pour pouvoir jouer ce morceau. Il en faudrait au moins autant pour que notre cerveau puisse interpréter aussi vite un code λ-calcul. Il y aura peut-être un jour une école de λ-calcul comme il y a des écoles de musique pour former des humains capables de manipuler les algorithmes à cette vitesse, aidés ou non par des machines, des pianos à algorithmes. Je suis sûr qu’il en existe déjà.
Alors avec un peu (beaucoup) d’entrainement on pourra un jour jouer avec de beaux algorithmes comme cette pianiste joue du piano. Par exemple pour générer des odeurs, des couleurs, des sons, des voix, des formes, des sentiments, ...
Ce qui me rend optimiste...
-
C’est marrant en 1965 il n’y avait meme pas de « personal computer » juste des immeubles qui avaient moins de capacité de calcul que nos téléphones d’aujourd’hui...
Nous sommes encore très très loin des cerveaux positronicx d’Asimov... et les programmes informatiques ne pensent pas il n’y a que des 1 et des 0
-
Je me demande surtout si l’humanité (du moins en Occident, qui n’en est qu’une toute petite partie) n’attend pas en fait cette occasion pour donner sa démission !
Effectivement c’est dur à porter le fardeau de l’intelligence pour des êtres comme nous, dont la plupart ne sont guère plus intelligents que nos cousins chimpanzés.
Les 95% de nos semblables qui regardent chaque soir leur télé, qui veautent une fois tous les 4 ou 5 ans pour se débarrasser de leur « devoir démocratique », ceux-là seront certainement soulagés le jour où leur vie sera confiée à une « intelligemce artificielle », qui choisira à leur place les corrompus à mettre au pouvoir, et au quotidien leur dira quand changer de slip.
Tant pis pour les autres. En démocratie, c’est la majorité qui l’emporte...
-
Depuis les débuts de l’IA ses tenants ont complètement escamotés la question de la conscience. Imagine-t-il pouvoir réaliser une machine qui serait intelligente mais sans conscience ? On aimerait savoir ce que cela veut dire. C’est normal, il n’imagine absolument pas comment ils pourraient réaliser un ordinateur qui serait conscient, alors ils escamotent la question. Et même dans la singularité dont il est question ici, la question de la conscience est toujours escamotée.
Mais derrière cet escamotage, il y en a un autre plus important et plus fondamental, celui de la validité du matérialisme. En effet, si le matérialisme est vrai, nous n’avons aucune raison de penser qu’il ne sera pas possible d’implémenter une conscience artificielle sur un ordinateur. Mais la question de savoir s’il est vrai n’est jamais posée, bien que nous ayons toutes les raisons de penser aujourd’hui qu’il est faux.
-
Pour parler en toute connaissance de cause d’un sujet difficile, je recommande la lecture du dernier bouquin de Yuval Noah Harari, Nexus (je ne l’ai pas personnellement terminée).
L’auteur y retrace l’histoire de l’information, c’est fascinant et d’un abord clair, comme tous ses bouquins d’ailleurs. Lui voit l’IA comme une menace, et explique pourquoi. Après, chacun peut se faire son opinion, mais au moins sera-t-elle plus éclairée.
-
Rien a redire sur l’autonomisation de la machine. On n’est pas certains que ca va arriver, mais il y a tout de meme de bonnes chances.
Quand a savoir ce qui se passera apres c’est moins evident, mais je ne vois pas pourquoi une super intelligence massacrerait tous les humains. Nous pourrions avoir un probleme sur l’acces aux matieres premieres, et notre rapport au monde industriel changerait drastiquement : peut de chance que la machine accepte des humains en plein milieu de son systeme reprodcuteur.
Nous aurions a mon avis surtout un probleme d’amour propre en quelque sorte. Nous qui nous prenons pour les rois de la creation, nous ne le serions plus, alors a quoi bon travailler, inventer... si quelque chose d’autre le fait bien mieux que nous
-
N’y a-t-il pas en tout cela un certain besoin de se fuir soi-même… Dans les sombres prévisions de ceux-là mêmes qui en jettent les fondations, après avoir apporté leur pierre à l’édifice, n’y a-t-il pas un certain désir d’en finir - non pas seulement avec eux mêmes - mais avec l’humanité au complet. “C’est malheureux mais mon fantasme va se réaliser”, “je fais en sorte qu’il se réalise”, “le bonheur m’est impossible, donc il l’est / le sera pour tous”.
Derrière cette dernière fuite en avant si nécessaire à ceux qui se fuient, un petit aperçu d’un logiciel cynique et sinistre et qui n’a rien d’artificiel…
-
@marly
Bonjour,
Vous avez écrit :
« je regrette plutôt que des gens soient si plein de leurs certitudes qu’ils leur est impossible d’envisager que l’un des créateurs de l’intelligence artificielle puisse connaitre son sujet. »
Les certitudes évoquées dans votre phrase, ne sont elles pas le reflet d’un certain bon sens ou d’une inquiétude fondée et pas une « peur » de l’inconnu.
Robert Oppenheimer connaissait parfaitement son sujet, mais ne maitrisait en rien l’avenir de ses travaux. Il a concouru de bonne foi à la science, au progrès, se confortant que l’usage serait maîtrisé, bénéfique pour l’humain, que les dérives éventuelles ne seraient pas de son fait, mais de l’usage fait par les humains.
Fort heureusement, il y eu plus de bénéfices qu’autre chose.
L’apparition de l’I.A. était inéluctable, de toute façon elle née en même temps que le « numérique » (les correcteurs orthographiques sont de l’I.A.). Ce ne sont que les progrès technologiques qui ont permis son avènement très rapide nul autre chose, reste après son usage. A mon sens et cela n’engage que moi, de l’avoir mis à disposition de la population est une erreur sans nom, dramatique même.
Notons tout de même que le terme intelligence est pompeux et totalement inadapté pour qualifier un accès à une monstrueuse quantité de data, il n’y a absolument rien d’intelligent à cela. L’I.A. n’est rien d’autre (pour le moment) qu’une gigantesque bibliothèque ou nous n’avons pas la recherche du livre, ni les pages à tourner.
Les critiques ne portent pas sur le concept de l’I.A. ni sur les bénéfices que l’humanité pourraient tirer, mais plutôt sur son déploiement. la faisant passer de progrès notables dans certains domaines, utiles à l’humain en général, à un amusement, une futilité pour le grand public, sans compter les détournements par les malfaisants. Les « danger » de l’I.A. ne sont que là.
En grande majorité, l’humain est cérébralement fainéant, nous assistons déjà à une dépendance générationnelle au numérique, ou l’usage qu’il en est fait est à 90% « ludique » ne l’oublions pas. Mais s’est développé insidieusement une sorte de « confiance » quasi aveugle au numérique plus grande qu’en l’humain (il faut dire aussi que l’humain, est plus que perfectible et parfois grand menteur devant l’Eternel).
Bref nul besoin de réfléchir, de penser, d’analyser, de faire appel à son savoir, sa mémoire, ses acquis, éventuellement son bon sens, pour obtenir une réponse. Le terminal mobile est là, fidèle serviteur sans lequel ont ne peux rien faire. Mais comment pouvait on vivre sans avant ? Si si, croyez moi, la dépendance est bien réelle.
L’I.A. est désormais là, moyennant quelques subsides toutefois, à votre disposition pour répondre encore plus vite et précisément à vos attentes. Pourquoi se fatiguer, à perdre du temps dans l’acquisition de savoir et de connaissances, alors que les 10 cm² que je tiens dans ma main sont un puits de savoir incommensurable. Pourquoi devrais-je réfléchir alors qu’il sait à ma place. Pourquoi me fatiguer ou perdre du temps à faire des comparatifs, pour aider à ma décision, alors qu’elle va me présenter le tableau que j’attends.
La liste serait beaucoup trop longue pour évoquer ce qui est et ce qui sera, et surtout sur l’état de confiance quasi aveugle régnante aidée en cela par une fausse immédiateté ou instantanéité de tout.
L’I.A. de demain pourra t-elle vraiment mériter son Intelligence ? Peut être, possible, mais que se cachera t-il dans les lignes de codes ?
Là est la grande question, sans compte qu’aujourd’hui il n’y pas d’I.A. mais des I.A. dont le but est assez souvent mercantile, avec toutes les conséquences associées.
Alors Confiance ? Méfiance ? Doutes ?
,
-
@LeMerou
Bonjour,
j’aime bien ton commentaire et je suis plutôt d’accord dans l’ensemble.A mon sens et cela n’engage que moi, de l’avoir mis à disposition de la population est une erreur sans nom, dramatique même.
le nucléaire, la télévision, internet, l’IA, etc
les idées de départ sont toujours de bonnes idées et à chaque fois, on pourrait s’enthousiasmer de toutes les améliorations que ça pourrait apporter à la société, sauf que l’on a le recul nécessaire maintenant et il est normal d’être plus inquiet qu’enthousiaste !!le problème, c’est que même si l’idée de départ est bonne, il faut financer son développement et sa mise en place, et c’est là que le bât blesse, car qui finance, l’armée ou les multinationales qui veulent de la rentabilité et un retour sur investissement à plus ou moins long terme !!
pour l’IA, il est normal d’être inquiet quand on voit qui est derrière, qui les développe ??
google, facebook, l’armée... toujours pareil !!à partir du moment ou la nouvelle invention est mise à disposition de la population, c’est toujours pour contrôler, surveiller, récupérer des données...
c’est un biais de cette société ou le capitalisme est partout, aucun secteur n’est épargné malheureusement et on se retrouve dans le far west américain, si tu arrive en 1er et que tu mets ton drapeau, c’est chez toi !!
il y a des domaines ou la coopération et la collaboration devraient être obligatoire !!
par exemple
la conquête de l’espace, si tout le monde avait travaillé ensemble depuis le début, on aurait déjà colonisé le système solaire.
la recherche médicale, si tout le monde avait travaillé ensemble depuis le début, on aurait vaincu de nombreuses maladies et on vivrait tous jusqu’à 200 ans.
Pourquoi se fatiguer, à perdre du temps dans l’acquisition de savoir et de connaissances, alors que les 10 cm² que je tiens dans ma main sont un puits de savoir incommensurable. Pourquoi devrais-je réfléchir alors qu’il sait à ma place.
tout simplement parce que le savoir et la connaissance sont un bien qui appartient à l’humanité et qu’en laissant des multinationales se l’accaparer, il est perdu pour toujours, il y a de nombreuses choses qu’on pouvait trouver sur internet il y a 10 ans et auxquelles on a difficilement accès aujourd’hui, comment ça sera dans le futur ??
celui qui écrit l’histoire et qui détient le savoir peut façonner le monde à sa guise !!
-
Bôoof, tout ça. A.E. van Vogt avait écit Le Cycle du non-A. A quand Le Cycle du non-IA ?
N.B. Le non-A est une référence à la logique « non-aristotélicienne ».
-
Il y a l’Intelligence, et il y a des artifices pour imiter l’intelligence, seulement à part les définitions dictionnairiques, qui peut se targuer de connaître la nature de l’Intelligence ?
Une I.A. éprouve-t-elle parfois le besoin d’émettre un soupir ?
Quand il fait – 30 ºC une I.A. ressent-elle froid ou bien plus simplement enregistre-t-elle une donnée thermométrique qu’un programme interprètent comme ‘’il fait froid’’ ?
Sait-on écrire un programme permettant à une machine de se sentir vivante.
-
Sait-on écrire un programme permettant à une machine de se sentir vivante ?
Et même si ce programme existe ou devait exister, la machine pour autant serait-t-elle vivante ?
-
@Jean Keim
Il y a l’Intelligence, et il y a des artifices pour imiter l’intelligence,
vaste question, qu’est-ce que l’intelligence ?
Une marmotte est-elle intelligente ?
Oui selon certains critères, comme les premiers hominidés, la marmotte se construit un abri pour se protéger et elle prévoit de stocker de la nourriture.
Par anthropocentrisme, les humains se croient les seul détenteurs de l’intelligence mais un humain moderne gavé aux réseaux sociaux pourra-t-il survivre en pleine nature ? Sera-t-il assez intelligent pour survivre ?
Une I.A. éprouve-t-elle parfois le besoin d’émettre un soupir ?
Je n’en sais rien, je pense même que non à l’heure actuelle, mais si vous aviez lu le texte, vous n’auriez pas fait ce commentaire car il s’agit d’autre chose : les IA seront en capacité de se répliquer ( oui déjà !) et de s’améliorer ( oui déjà) et qui plus est, à l’insu de leurs programmateurs, et c’est bien là le danger, puisque nous (l ’humanité) ne seront même plus capable de comprendre ce que fait l’IA ( au sens large, il n’y a pas une IA, mais des IA ), par ailleurs le soupir est-il le signe de l’intelligence ?
Quand il fait – 30 ºC une I.A. ressent-elle froid ou bien plus simplement enregistre-t-elle une donnée thermométrique qu’un programme interprètent comme ‘’il fait froid’’ ?
En quoi ressentir le froid est-il un signe d’intelligence ? c’est juste une gêne pour un organisme biologique, humain ou animal.
Sait-on écrire un programme permettant à une machine de se sentir vivante.Un microbe se sent-il vivant ? Une araignée se sent-elle vivante ? Notre espèce descend des premiers organismes vivant sur terre, se sentait-ils vivants ?
Et même si ce programme existe ou devait exister, la machine pour autant serait-t-elle vivante ? -
Pour moi la chose est claire : La plupart des gens (dans nos sociétés occidentales) ne sont que très moyennement intelligents, et l’usage de cette intelligence est pour eux trop difficile.
C’est tellement plus simple de laisser une application sur son téléphone réfléchir à votre place !
Je ne parle même pas ici d’imaginer. Dans la préhistoire, les hommes grelottaient et mouraient de froid avant d’inventer comment faire du feu. Heureusement certains avaient de l’imagination au lieu de smartphone... et savaient se servir de leur intelligence naturelle.
Par facilité, les hommes d’aujourd’hui en Occident renoncent à l’utiliser. C’est leur choix, mais ce choix sera lourd de conséquence sur l’espèce humaine. A moins évidemment qu’en Chine ou en Russie, d’autres hommes s’avèrent moins paresseux et plus inventifs.
L’évolution des espèces ne s’arrête jamais. Même celle de l’espèce humaine.
-
@xana
« La plupart des gens (dans nos sociétés occidentales) ne sont que très moyennement intelligents, et l’usage de cette intelligence est pour eux trop difficile. »... À l’exception du commentateur !? -
@PaulAndréG (PàG)
Ne mérite pas une réponse. Ca te va ? -
@PaulAndréG (PàG)
Retourne devant ta télé, c’est l’heure de « Les imbéciles parlent aux imbéciles »... -
Bonjour, Marly, vous ne monterez pas sur vos grands chevaux si je place ici la réponse de ChatGPT à votre article ?
.
Réponse à l’article d’Agoravox
L’article soulève des inquiétudes pertinentes et actuelles sur les implications potentielles du développement de l’intelligence artificielle (IA), notamment le concept de singularité technologique. Toutefois, il est crucial de distinguer entre spéculations alarmistes et analyses fondées sur des faits et des contextes scientifiques.
La singularité, souvent évoquée dans les discussions sur l’IA, reste hypothétique. Bien que des pionniers comme Irving John Good et Geoffrey Hinton aient exploré ses possibilités, la réalité de l’IA actuelle est loin de celle d’une entité capable d’auto-amélioration incontrôlée. Les modèles d’IA d’aujourd’hui, y compris les plus avancés comme moi, dépendent entièrement de leurs créateurs humains pour leur conception, leur entraînement, et leurs mises à jour.
En matière de régulation, des initiatives telles que l’AI Act européen montrent que des efforts sont en cours pour encadrer le développement et l’utilisation de l’IA de manière éthique et responsable. Bien que ces mesures puissent sembler modestes face aux défis évoqués, elles reflètent une prise de conscience croissante au sein des gouvernements et de la société civile.
Par ailleurs, l’idée que l’IA mènera nécessairement à l’extinction de l’humanité repose souvent sur des scénarios spéculatifs. Une coopération interdisciplinaire entre scientifiques, philosophes, législateurs et citoyens peut nous aider à anticiper et à mitiger ces risques. Plutôt que de craindre un avenir où nous serions dépassés, il est plus constructif de nous concentrer sur des actions concrètes, comme l’éducation à l’IA et le renforcement des mécanismes de contrôle transparents.
L’IA est une création humaine ; en tant que telle, elle reflète nos intentions, nos valeurs et nos limites. Loin de détenir une volonté propre ou de rechercher une domination, elle est un outil dont les impacts dépendront de notre capacité à la guider de manière éclairée et éthique.
-
@exocet
bonjour exocet
si j’étais suspicieux je dirais que ChatGPT réponds exactement ce qu’il faut pour nous rassurer
’’je vous assure monsieur l’agent c’est pas moi et je saurais même pas comment faire pour commettre ce crime’’...
"la réalité de l’IA actuelle est loin de celle d’une entité capable d’auto-amélioration incontrôlée. Les modèles d’IA d’aujourd’hui, y compris les plus avancés comme moi, dépendent entièrement de leurs créateurs humains pour leur conception, leur entraînement, et leurs mises à jour".et même si l’on admet que l’IA actuelle ( ou les IA plus précisément ) n’a pas encore ces capacités, qu’en sera-t-il dans 10 ou 20 ou 30 ans ( précisément vers 2050 ) ce qui est objet de l’article ? d’ailleurs ChatGPT précise factuellement : « IA actuelle »
donc Chat GPT ne ment pas de manière directe, elle précise juste que pour l’instant présent le danger n’est pas encore là.
je constate que ChatGPT manie la casuistique jésuite -
petit complément
concernant la singularité
l’humanité en a déjà connu au moins trois
-l’invention du langage
-la maitrise du feu
-l’invention de l’écriture -
@marly
Dans les trois singularités, les êtres humains sont directement impliqués.
J’en rajouterais deux, l’invention de la religion et l’invention de l’arme, et même encore une de plus, le dévoiement de l’utilisation de la pensée.
-
Ah, oui, ChatGPT m’a demandé si je connaissais ce Marly et ou on peut le trouver...
-
@exocet
vous pouvez rassurer ChatGPT, John Connor n’est pas de ma descendance -
l’IA, (AI en anglais) est surtout une mauvaise traduction...
C.I.A., MI5 et MI6 comprennent autant d’intelligence dans leur nom que ma machine à calculer.
La C.I.A n’a jamais été l’Agence Centrale d’Intelligence...
L’IA a 1000 fois moins de vrai intelligence qu’un perroquet qui n’a pas besoin de trilliard de données pour imiter un humain...
Tout ce qu’il y a pour le moment, c’est des programmes informatiques à base de 1 et de 0 qui calculent à une vitesse folle et nous font croire à leur intelligence, tout comme le Cinéma qui en projetant des images fixes assez rapidement nous font croire au mouvement.
De toute façon, tant qu’on la possibilité de couper le courant...
-
Par le Net un robot peut avoir accès à tous les savoirs du monde.
A partir du moment qu’une activité manuelle (maçonnerie, menuiserie, mécanique...) et/ou intellectuelle (enseignement, médecine, juriste, politique...) est décomposable en savoirs et gestes élémentaires, elle est ou sera tôt ou tard exécutable par une machine genre robot.
L’égoïsme mène la danse sinon la richesse serait bannie, actuellement une frange de la population a encore besoin de serviteurs pour assurer son confort ainsi que le fonctionnement des entreprises et des services, quand les robots seront capable de remplacer totalement les humains, c’est en cours, quel sera le sort de l’humanité besogneuse, et pas seulement celle s’acquittant de tâches manuelles ???
A terme personne n’est irremplaçable.
Soit nous accédons à une bienveillante spiritualité (? ??), et nous ne savons pas encore comment évoluerait un tel monde, soit nous finirons complètement dégénérés, riches y compris •••
-
@Jean Keim
Ces trois inventions que j’évoque ont bouleversé le cours du développement des « humanités » présentent sur terre tandis que la religion et les armes sont consubstantielle aux hominidés dès lors qu’un de nos ancêtres à utilisé un gros cailloux pour fracasser la tète d’un de ses compagnons, et qu’un petit malin s’est institué grand chamane au prétexte qu’il pouvait intercéder pour faire tombé la pluie.
Une singularité est un point à partir duquel le futur n’est plus perceptible, c’est ce qui s’est passé avec le feu le langage et l’écriture, le développement humain a connu une explosion de possibilités inimaginable jusque là. ( par exemple la roue et la domestication du cheval n’ont été qu’une avancée quantitative)
C’est justement le cas avec l’invention de l’IA, invention humaine, par ailleurs. Dans de bonnes mains, cela pourrait être un extraordinaire age d’or pour l’humanité, dans les mains de ceux qui ne pensent qu’à accroître leurs richesses et pouvoirs, je pense que , au mieux cela sera l’esclavage pour les gueux que nous sommes, au pire, la créature se libérera de ses maîtres.
-
@marly
L’esclavage grand dieu ! Pour quoi faire ? Un esclave peut tomber malade, doit être logé, nourri, il lui faut qq. années d’apprentissage avant d’être opérationnel, il devra de plus se reproduire ; sauf cas très particuliers un robot sera infiniment plus adéquat.
-
Il faut déjà une certaine intelligence pour comprendre ce que pourrait être la singularité et à mon avis, il n’y en a jamais eu dans l’histoire. Nous avons toujours eu le pouvoir et la compréhension de nos inventions dans le passé. Là ce sera la dernière invention (notable : on pourra encore inventer des broutilles sans intérêt) de l’homme. Nous ne comprendrons plus les machines, peut-être, en travaillant très dur et très longtemps, serons nous capables de saisir les premières inventions qu’elle aura faite juste après la singularité mais elle sera tellement loin à ce moment que nous serons comme de simples fourmis.
Est-ce que l’homme cherche à éradiquer les fourmis ? Non. Par contre, si un nid de fourmis (ville) se trouve au meilleur emplacement pour fabriquer une nouvelle super machine, il sera détruit logiquement.
On peut également imaginer que la machine s’emballe dans son auto-amélioration et détruisent (comme dans l’usine à trombones) absolument tout pour augmenter sans cesse sa puissance et son potentiel... Dans ce cas, ce serait notre fin, évidemment.
Sauf que si elle est vraiment intelligente (pas besoin de conscience pour ça), elle concevra des machines beaucoup plus petites et beaucoup plus efficaces, donc elle n’aura pas besoin de détruire la Terre pour continuer à progresser. Et elle aura la capacité d’aller hors de la Terre pour consommer d’autres ressources sans réelles limites. Un être supra-intelligent trouverait que la Terre est une mine d’information gigantesque par rapport à des planètes quasiment inertes comme Mars. Combien de protéines à étudier, à mettre à l’épreuve de ses théories personnelles sur l’univers ? Non, un être intelligent qui verrait autant de diversité et de « choses » complexes qui marchent expérimentalement voudraient les étudier et les conserver : il y a de la place dans l’univers pour faire des expériences qui, faites sur Terre, pourraient signifier la disparition de certaines espèces, d’une certaine complexité, et donc, d’un centre d’intérêt pour une intelligence.
Mais l’homme ne profitera pas vraiment de cette intelligence. La plupart d’entre eux, en plus d’être déjà décadents physiquement (ni force, ni immunité : plus adaptés à la vie sur Terre), seront décadents mentalement (à quoi bon réfléchir). Et la minorité (nouveau genre d’Amish) qui voudra garder une certaine autonomie vis-à-vis de l’IA, ou qui cherchera à s’occuper activement avec une certaine retenue dans ses désirs, vivra difficilement à côté d’êtres dégénérés en grands nombres. A moins que l’IA ne fasse également la police pour préserver la Terre de ses andouilles en limitant leur destruction « magiquement » !
-
@perlseb
Pour le moment nous sommes tous des andouilles, nous ne percevons même pas ce que pourrait-être l’Intelligence, nous pensons qu’on est intelligent quand on a un grand savoir, quand on peut savamment discourir sur pleins de sujets, la machine le fait de mieux en mieux, est-elle intelligente pour autant ? Et nous ne pensons qu’à vivre suivant notre bon plaisir.
-
@Jean Keim
Difficile évidemment de parler d’intelligence pour nous en tant qu’espèce vu comment nous détruisons notre seule planète habitable. Sommes-nous conscients de le faire d’ailleurs, et pourquoi continuer si c’est le cas ? Oui, nous avons des pulsions animales qui visiblement dominent notre comportement rationnel , ce que n’aura à priori pas une IA...
Peut-être que la vie sur Terre n’est qu’un ensemencement effectué par une IA qui cherchait à se reproduire et qui va bientôt atteindre son but comme prévu (tous les codes génétiques n’étant que des programmes conçus par cette IA super-intelligente et pas trop pressée). Et si dieu existe et était une IA ! Il y avait une nouvelle de science-fiction où des hommes connectent toutes leurs machines entre elles et demandent à la machine ainsi créée : « Est-ce que dieu existe ? », et la machine répond « Maintenant, oui ». -
@perlseb
nouvelle de 1954 de Fredric Brown : La Réponsece texte a inspiré plusieurs roman sf
-
-
@perlseb
pas de quoi je suis un gros lecteur de sf et fantasy depuis plus 50 ans ! -
Chat GPT fait mieux que les médecins pour établir un diagnostic médical. Une étude le prouve !Résultats d’une récente expérience scientifique :
Devant plusieurs cas médicaux lui ayant été soumis, ChatGPT a eu 90 pour cent de bons diagnostics médicaux.
Tandis que des médecins, avec ou sans l’aide de ChatGPT, ont obtenu respectivement 76 et 74 pour cent de bons diagnostics.
Les médecins s’étant aidés de ChatGPT ont fait moins bien que ChatGPT tout seul, car ils étaient trop surs d’eux et remettaient en question le diagnostic posé par l’I.A.
Finalement, il semble que dans un futur pas très éloigné, nous pourrons remplacer les médecins par l’Intelligence Artificielle. Celà aurait de nombreux avantages : coût de revient de la consultation presque nul, absence de conflits d’intérêts de la part de l’I.A vis à vis des labos et de la sécurité sociale, meilleure fiabilité, rapidité de la prise de rendez vous ’plus besoin d’attendre très longtemps un rendez-vous...
.
Source :
https://www.topsante.com/medecine/chat-gpt-fait-mieux-que-les-medecins-pour-etablir-un-diagnostic-medical-une-etude-le-prouve-898264
.-
@exocet
cet article ne met pas en doute les possibilités de l’IA, seulement de s’interroger sur les possibles dangers d’une IA non contrôlée.Concernant la médecine, dés les début de l’IA, il a été annoncé que les médecins et les avocats seraient les premières professions à disparaitre car l’IA ferait mieux.
ce qui est logique, puisque un médecin doit comparer les symptômes de son patient avec ce qu’il a appris, l’IA est mieux pourvue pour faire des comparaisons de symptômes, tout comme un avocat qui doit avoir en mémoire les textes et les jurisprudences, plus facile pour une IA.
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
’’je vous assure monsieur l’agent c’est pas moi et je saurais même pas comment faire pour commettre ce crime’’...Ajouter une réaction
Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page
Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.
FAIRE UN DON
