Debats

Le président de Google DeepMind, Demis Hassabis, sur les deux plus grands risques de l’IA, et pourquoi il reste optimiste quant à notre capacité à les résoudre :

Repartage — contenu de Isabelle Bouilloux

Le président de Google DeepMind, Demis Hassabis, sur les deux plus grands risques de l'IA, et pourquoi il reste optimiste quant à notre capacité à les résoudre :

Risque n°1 : Le désalignement

« C'est là que le système d'IA ne fait pas ce que nous lui demandons de faire ou contourne d'une manière ou d'une autre ses garde-fous.»

Risque n°2 : L'utilisation abusive

« Là où un acteur malveillant détourne la technologie générale qui a été construite dans une intention bienveillante, mais la dét

De son propre aveu, même les personnes qui construisent cette technologie ne la comprennent pas encore pleinement :

« C'est une technologie très récente et il y a beaucoup d'inconnues et d'incertitudes, et il y a des choses que même les meilleurs scientifiques du domaine ne comprennent pas encore pleinement. Donc nous devrions prendre ces risques très au sérieux.

En pratique, dit-il, cela signifie « une réflexion approfondie et des approches considérées utilisant des méthodes scientifiques rigoureuses pour bien poser les fondations techniques. »

Cela signifie aussi de meilleurs tests.

Hassabis a appelé dans un essai à « de nouveaux standards pour tester les capacités de l'IA de pointe qui soient dynamiques, adaptables et adaptés au moment, et qui, espérons-le, seront rapidement adoptés par la communauté internationale.»

Et ces standards ne fonctionnent que si les pays les adoptent ensemble :

« Je pense vraiment que nous avons besoin d'une coopération internationale autour de ces standards pour qu'ils soient efficaces. »

Mais résoudre le désalignement et l'utilisation abusive ne met pas fin a la conversation. @demishassabis argue que même une lA techniquement sûre laisse des questions plus larges ouvertes « Même si nous relevons les défis techniques, il y a bien sûr des questions économiques et philosophiques profondes et complexes à résoudre. Quelles valeurs voulons-nous adopter pour vivre? Quel sera le sens et le but dans cette nouvelle ère ? »

Et ces questions, dit-il, n'appartiennent pas aux ingénieurs :

« Résoudre ces questions ne peut évidemment pas et ne doit pas être laissé aux seuls technologues. Nous avons besoin d'une collaboration des meilleurs esprits de toutes les parties de la société, des arts, des sciences humaines et de la philosophie, pour aider à définir ce que devrait être ce nouveau chapitre. »

Il dit que c'est pourquoi DeepMind a lancé l'Institut DeepMind : pour aider à rassembler ces différentes disciplines dans la même discussion.

Sa conclusion est que l'issue n'est pas prédéterminée :

« L'avenir n'est pas encore écrit. Nous devons tous nous engager et utiliser cette fenêtre précieuse pour façonner cette technologie au bénéfice de toute l’humanité .»


Sources LinkedIn