GPT-4 suscite des inquiétudes, Musk et des milliers d'autres personnalités technologiques appellent à un moratoire sur le développement plus fort de l'IA

Nouvelles le 29 mars, le modèle de conversation d'intelligence artificielle de la société américaine OpenAI, ChatGPT, a attiré l'attention du monde entier. L'investisseur principal de la société, Microsoft, a commencé à évaluer l'impact du dernier modèle derrière lui, GPT-4, sur l'humanité future. GPT-4 est un grand modèle multimodal capable de générer un langage de type humain. Il a démontré des performances de niveau humain dans une variété de tests standards professionnels et académiques. Par exemple, il peut réussir l'examen simulé du barreau et se classer parmi les meilleurs. Dans les 10%.

Cependant, le GPT-4 présente également certains risques potentiels pouvant avoir des effets néfastes sur la société et les humains. Le fondateur de Tesla, Elon Musk, et plus d'un millier d'experts en intelligence artificielle et de dirigeants de l'industrie ont appelé dans une lettre ouverte à un moratoire de six mois sur le développement de systèmes plus puissants que GPT-4 jusqu'à ce qu'un ensemble partagé de protocoles de sécurité soit audité par des experts indépendants. Ils ont également évoqué l’instabilité économique et politique que pourraient provoquer les systèmes d’IA avancés et ont appelé les développeurs à travailler avec les décideurs politiques pour créer des organismes de réglementation.

La lettre a été publiée par l'Institut à but non lucratif Future of Life et comprend Musk, le co-fondateur d'Apple Steve Wozniak et le PDG de Stability AI Emad Mostak. Plus de 1 000 personnes l'ont signée.

La lettre indiquait : « Des systèmes d'intelligence artificielle puissants ne devraient être développés que lorsque nous sommes convaincus que leurs effets sont positifs et que leurs risques sont contrôlables.

En outre, l'agence de police de l'Union européenne, Europol, a également publié une réponse à l'annonce. » Lundi, des préoccupations éthiques et juridiques concernant l'intelligence artificielle avancée telle que ChatGPT, avertissant que de tels systèmes pourraient être utilisés à des fins de phishing, de désinformation et de cybercriminalité. Depuis sa sortie l'année dernière, ChatGPT d'OpenAI, soutenu par Microsoft, a incité ses concurrents à lancer des produits similaires, et de nombreuses entreprises l'ont intégré ou une technologie similaire dans leurs applications et produits.

Selon IT House, OpenAI a précédemment déclaré avoir passé six mois à ajuster de manière itérative GPT-4 pour obtenir le meilleur en termes de factualité, de contrôlabilité et de refus de dépasser la plage de sécurité. Résultats (bien que pas encore parfaits).

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!