• AgoraVox sur Twitter
  • RSS
  • Agoravox TV
  • Agoravox Mobile

Signaler un abus

Decouz 4 juin 2025 15:01

"

Voici une mise en perspective entre Superintelligence de Bostrom et l’état actuel de l’IA (2025), notamment avec des modèles comme ChatGPT :

  1. Pas encore de superintelligence :
    Les IA comme ChatGPT-4 ou 4.5 restent des systèmes limités : elles n’ont ni conscience, ni intentions, ni but propre. Elles ne peuvent pas s’auto-améliorer, ni dissimuler activement leur puissance.

  2. Pas d’objectif autonome :
    ChatGPT n’a aucune volonté propre. Il exécute des tâches à partir de requêtes humaines, sans chercher à optimiser un but ou à prendre l’avantage.

  3. Pas d’accès au monde réel :
    Par conception, ces IA n’agissent pas sur le monde : elles ne contrôlent ni capteurs, ni robots, ni réseaux physiques. Elles sont « enfermées » dans un cadre logiciel contrôlé.

  4. Mais la vigilance s’intensifie :
    Les chercheurs prennent très au sérieux les problèmes évoqués par Bostrom :

    • Alignement des valeurs humaines ;

    • Prévention de manipulations involontaires (ex. : réponses trop persuasives, illusions de compétence) ;

    • Tests rigoureux avant tout accès à des capacités externes.

  5. Vers des garde-fous techniques et politiques :
    Des initiatives récentes (comme le AI Safety Summit, les chartes européennes ou les publications d’OpenAI) visent à anticiper l’apparition de systèmes plus puissants, pour éviter les dérives évoquées par Bostrom avant qu’elles ne deviennent techniquement possibles.

En résumé : Bostrom parle d’un futur potentiel, pas d’une menace immédiate. Mais son livre a eu un impact profond : il a structuré les débats contemporains sur l’IA avancée et incité les principaux acteurs du domaine à ne pas attendre que le problème se présente pour le prendre au sérieux.

Lire le commentaire dans son contexte
Répondre Signaler un abus



Palmarès