Debats

Demis Hassabis : L’auto-amélioration récursive (RSI) pourrait déclencher une explosion d’intelligence, créant une IA d’apparence extraterrestre que les humains ne seraient plus en mesure de comprendre

Repartage — contenu de Isabelle Bouilloux

Demis Hassabis : L'auto-amélioration récursive (RSI) pourrait déclencher une explosion d'intelligence, créant une IA d'apparence extraterrestre que les humains ne seraient plus en mesure de comprendre ou de contrôler.

« La prochaine phase, qui comporte le plus grand risque, est l'auto-amélioration en boucle fermée sans examinateurs humains. »

« Cela sera plus rapide, mais c'est aussi une manière très dangereuse d'atteindre une AGI complète. »

« On ne sait pas vraiment comment garder le contrôle d'un tel système. »

« Le résultat final sera probablement assez extraterrestre, différent de la manière dont les humains pensent. »

« Nous devrions être très prudents à mesure que nous nous rapprochons de l'auto amélioration récursive en boucle fermée «


Sources LinkedIn