Le PDG d'OpenAI cite Tao Te Ching et appelle à la coopération sur les questions de sécurité de l'IA

China News Service, Pékin, 11 juin (Song Yusheng, journaliste économique de China News) "Avec l'émergence de systèmes d'intelligence artificielle de plus en plus puissants, les enjeux de la coopération mondiale sont devenus plus importants que jamais."

Le 10 juin, Sam Altman, PDG d'OpenAI, a déclaré cela dans son discours lors du forum « AI Security and Alignment » lors de la conférence 2023 sur les sources intelligentes de Pékin, par liaison vidéo.

Dans son discours, il a cité la célèbre phrase du Tao Te Ching : « Un voyage de mille kilomètres commence par un seul pas. » Il a appelé la communauté scientifique et technologique internationale à coopérer sur les questions liées à la sécurité de l'intelligence artificielle et à promouvoir la mise en place d'un système visant à améliorer les progrès technologiques en matière de sécurité de l'intelligence artificielle générale (AGI). Mécanismes de transparence et de partage des connaissances.

La scène du forum « AI Security and Alignment » lors de la Beijing Intelligent Source Conference 2023. Photo gracieuseté de la conférence Zhiyuan

Nous assistons actuellement à une augmentation rapide des capacités de l’intelligence artificielle, nous devons donc assumer la responsabilité de l’appliquer au monde. L’histoire des sciences nous apprend que le progrès technologique suit une courbe exponentielle. »

Altman prédit : « Dans les 10 prochaines années, nous pourrions avoir des systèmes d’intelligence artificielle super puissants. »

Imaginez un monde dans les dix prochaines années où l'expertise des systèmes généraux d'intelligence artificielle dépasse celle des humains dans presque tous les domaines. En fin de compte, la capacité de production générée par ces systèmes pourrait dépasser la capacité collective que nos plus grandes entreprises peuvent créer. Les avantages potentiels sont énormes. La révolution de l’intelligence artificielle peut générer des richesses que nous pouvons tous partager tout en améliorant considérablement le niveau d’interaction homme-machine. Mais pour y parvenir, nous devons gérer les risques ensemble. »

Un système d'IA « mal aligné » conçu pour améliorer les résultats en matière de santé publique pourrait nuire à l'ensemble du système de santé publique en fournissant des recommandations confuses si les gens ne parviennent pas à s'y préparer, a déclaré Altman ; l’économie, consomment des ressources et affectent la production alimentaire et l’équilibre environnemental en raison d’un manque de considération de la durabilité à long terme.

« J'espère que nous pourrons tous convenir que faire progresser la sécurité de l'intelligence artificielle générale est l'un des domaines les plus importants dans lesquels nous devons parvenir à un consensus », a-t-il déclaré.

La scène du forum « AI Security and Alignment » lors de la Beijing Intelligent Source Conference 2023. Photo gracieuseté de la conférence Zhiyuan

De l'avis d'Altman, la gouvernance de l'intelligence artificielle générale devrait d'abord établir des normes et standards internationaux inclusifs et établir des mesures de protection égales et unifiées pour l'utilisation de l'intelligence artificielle générale dans tous les pays. Deuxièmement, une coopération internationale est nécessaire pour établir des moyens vérifiables de construire un système mondial ; confiance dans le développement sécurisé de systèmes AGI de plus en plus puissants.

Il a déclaré : « La mesure la plus constructive que nous puissions prendre est que la communauté scientifique et technologique internationale travaille ensemble pour accroître la transparence dans l'avancement de la technologie de sécurité AGI et établir un mécanisme de partage des connaissances. Lorsque les chercheurs identifient des problèmes urgents, ils devraient les partager. leurs conclusions. Nous devrions réfléchir attentivement à la manière de respecter et de protéger les droits de propriété intellectuelle tout en encourageant un tel comportement de partage. Cela nous ouvrira de nouvelles portes pour approfondir la coopération. » (Fin)

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!