Repartage — contenu de Isabelle Bouilloux
Demis Hassabis : L'auto-amélioration récursive (RSI) pourrait déclencher une explosion d'intelligence, créant une IA d'apparence extraterrestre que les humains ne seraient plus en mesure de comprendre ou de contrôler.
« La prochaine phase, qui comporte le plus grand risque, est l'auto-amélioration en boucle fermée sans examinateurs humains. »
« Cela sera plus rapide, mais c'est aussi une manière très dangereuse d'atteindre une AGI complète. »
« On ne sait pas vraiment comment garder le contrôle d'un tel système. »
« Le résultat final sera probablement assez extraterrestre, différent de la manière dont les humains pensent. »
« Nous devrions être très prudents à mesure que nous nous rapprochons de l'auto amélioration récursive en boucle fermée «
Sources LinkedIn
- Conversation LinkedIn : voir la publication
- Profil : Pierre Jean Duvivier dit Sage (LinkedIn)
- Auteur partagé : Isabelle Bouilloux (LinkedIn)
