Musk : L'intelligence artificielle constitue une énorme menace et nous devons la guider et la contrôler

Photo du PDG de Tesla, Elon Musk

Le PDG de Tesla, Elon Musk, a exprimé son espoir de créer un « arbitre tiers » pour superviser les entreprises développant l'IA.

Le 1er novembre, heure locale, le premier sommet mondial sur la sécurité de l'intelligence artificielle (IA) s'est ouvert au Royaume-Uni. Musk a déclaré lors du sommet : « Notre véritable objectif ici est d'établir un cadre d'analyse afin qu'il y en ait au moins un tiers. arbitre du parti. Un arbitre indépendant qui peut surveiller ce que font les principales entreprises d'IA et au moins tirer la sonnette d'alarme lorsqu'elles ont des inquiétudes. "

Avant que le gouvernement ne prenne des mesures réglementaires, Musk a souligné qu'il doit d'abord comprendre le développement de l'intelligence artificielle : « Je ne sais pas quelles sont les règles équitables, mais avant de réglementer, il faut avoir un aperçu. Je pense que beaucoup de gens dans le domaine de l'intelligence artificielle Inquiétez-vous, le gouvernement établira des règles prématurément avant de savoir quoi faire, je pense que cela est peu probable. "

Musk a qualifié l'intelligence artificielle d'"épée à double tranchant" et a souligné qu'à son avis, cette technologie a au moins 80 % de chances de bénéficier aux humains et 20 % de chances de provoquer un danger. Il a souligné que l'intelligence artificielle est l'une des « plus grandes menaces » pour l'humanité. « C'est la première fois dans l'histoire de l'humanité qu'apparaît quelque chose de beaucoup plus intelligent que nous. Il n'est pas clair si une telle chose (l'IA) peut être contrôlée », mais. Je pense que nous pouvons être déterminés à orienter son développement dans une direction qui profite à l’humanité. »

Avant le sommet, le Royaume-Uni a publié une déclaration signée par 28 pays et l'UE pour définir un programme en deux volets axé sur l'identification des risques d'intérêt commun liés à l'IA, le renforcement de la compréhension scientifique de ces risques et l'élaboration de politiques transnationales pour les atténuer. ces risques. Cette annonce marque une étape importante dans la coopération entre pays dans le domaine de l’intelligence artificielle.

Le communiqué souligne que la capacité la plus importante de ces modèles d'IA est la possibilité de causer des dommages graves, voire catastrophiques, qu'ils soient intentionnels ou non, et que l'intelligence artificielle peut être utilisée par des criminels, ou que les humains peuvent perdre le contrôle de l'intelligence artificielle.

Les médias étrangers ont déclaré que c'était la première fois que la communauté internationale publiait une déclaration sur les risques de l'IA, mettant en garde contre les menaces que les grands modèles peuvent faire peser sur les êtres humains.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!