Gén Chen : les gourous de l'IA déclarent conjointement « un avertissement concernant l'extermination de l'humanité par l'IA »

Texte/Chen Gen

Récemment, le Center for AI Safety (CAIS) a publié une « Déclaration sur les risques liés à l'intelligence artificielle » signée par 350 scientifiques et dirigeants d'entreprises dans le domaine de l'intelligence artificielle. Le risque d'extinction devrait être une priorité mondiale, au même titre que d'autres risques à l'échelle de la société. comme les épidémies et la guerre nucléaire. »

Cette déclaration publique rassemble les opinions des experts en intelligence artificielle, des scientifiques nucléaires, des épidémiologistes et d'autres experts et universitaires les plus réputés du monde aujourd'hui. On peut dire que les risques posés par l'intelligence artificielle ont été résolus de la manière la plus complète. . Les signataires comprennent trois dirigeants de sociétés d'IA : Sam Altman, PDG d'OpenAI, Demis Hassabis, PDG de DeepMind, et Dario Amodei, PDG d'Anthropic ; parmi eux, Jeff, connu comme le parrain de l'IA Ray Hinton, ainsi que Joshua Bengio, l'un des « trois grands » de AI et lauréat du prix Turing ; ont également signé la lettre ouverte deux scientifiques chinois, de l'Institut d'automatisation de l'Académie chinoise des sciences, d'éthique de l'intelligence artificielle avec Zeng Yi, directeur du Centre de recherche sur la gouvernance, et Zhan Xianyuan, chercheur adjoint à Institut de recherche sur l'industrie intelligente Tsinghua.

Théorie des menaces liées à l'intelligence artificielle

Le développement de la technologie de l'intelligence artificielle joue un rôle dans la promotion du progrès des sciences sociales et de la technologie. Cependant, même si l’intelligence artificielle a fait des progrès considérables, ses effets négatifs et sa pression psychologique sur les humains sont devenus de plus en plus importants. Par exemple, de plus en plus d’étudiants utilisent l’intelligence artificielle pour rédiger leurs devoirs et leurs devoirs, ce qui rend le plagiat difficile à définir. Les criminels l’utilisent pour développer de nouvelles méthodes de piratage afin de voler des données sensibles à des fins de chantage.

L’intelligence artificielle aura également un impact majeur sur la façon dont les humains travaillent. On estime que d’ici 2030, entre 75 et 375 millions de personnes auront besoin de retrouver un emploi. Cela aura non seulement un impact sans précédent sur l’économie, mais entraînera également une pression sans précédent sur la psychologie des gens. Selon des rapports, 61 % des personnes interrogées aux États-Unis estiment que l'intelligence artificielle menace l'avenir de l'humanité. Lorsqu'on a demandé à Jeffrey Hinton "Quel est selon vous le pire scénario que l'on puisse imaginer", il a répondu : "Il est tout à fait concevable que les humains ne soient qu'une étape de transition dans l'évolution de l'intelligence

Examinez les avantages et les inconvénients du développement de l'intelligence artificielle de manière rationnelle

Alors que de plus en plus de gens commencent à croire que « l'intelligence artificielle sera potentiellement plus intelligente que nous », les inquiétudes généralisées concernant le développement incontrôlé de la technologie de l'intelligence artificielle ne sont pas déraisonnables. Bien que la plupart des intelligences artificielles de pointe représentées par ChatGPT se répliquent et apprennent toujours sur la base des modèles présents dans les données de formation, on peut dire que sa capacité d'apprentissage et son taux de croissance « progressent à pas de géant », ce qui n'est pas suffisant pour décrire son développement rapide.

Un nombre croissant de législateurs, de groupes de défense et d’initiés de l’industrie technologique mettent en garde contre le potentiel des chatbots IA à diffuser des informations erronées et à remplacer les emplois humains. Dan Hendrycks, directeur du Center for AI Safety, a même souligné que la société dans son ensemble devrait également travailler ensemble pour faire face à d'autres types de risques liés à l'IA, tels que les biais des algorithmes ou les informations trompeuses. Bien entendu, dans ce processus de gestion des risques, il serait imprudent de se concentrer uniquement sur les dangers immédiats, et il serait tout aussi imprudent de les ignorer. Car comme d’autres nouveautés, la popularisation rapide de l’intelligence artificielle comporte des opportunités et des risques. Si les gens profitent de ses avantages, ils doivent également se méfier des risques possibles. Tant que vous en faites bon usage et que vous vous prémunissez contre les risques, vous pouvez « l'utiliser pour moi ».

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!