Cet article est réimprimé avec l'autorisation d'AI New Media Qubits (ID de compte public : QbitAI). Veuillez contacter la source pour la réimpression.
Face à ChatGPT, la nature ne pouvait finalement plus rester assise.
Cette semaine, le sort de cette organisation d'édition universitaire faisant autorité a été clarifié concernant une série de problèmes tels que la rédaction fantôme d'articles académiques par ChatGPT et le fait d'être répertorié comme auteur.
Plus précisément, Nature énumère deux principes :
(1) Tout outil de modèle de langage à grande échelle (tel que ChatGPT) ne peut pas être l'auteur de l'article (2) Si des outils associés ont été utilisés dans la création de l'article ; article, l'auteur Cela doit être clairement indiqué dans les méthodes ou les remerciements ou dans une section appropriée
. Maintenant, les exigences ci-dessus ont été ajoutées aux directives de soumission des auteurs.
En décembre de l'année dernière, dans un article sur l'application anti-âge de la rapamycine, ChatGPT a été répertorié comme une œuvre, provoquant une controverse dans l'industrie. En plus de cet article, il existe de nombreuses études citant ChatGPT comme auteur.
La nature a également remarqué cette situation. Une enquête menée en décembre a montré que 20 % des 293 professeurs interrogés avaient découvert ou vu des étudiants utiliser ChatGPT pour terminer leurs devoirs ou leurs devoirs, et cela exprime de plus en plus d'inquiétudes.
Cette fois, le communiqué publié par Nature vise justement à clarifier diverses controverses.
De nombreux articles ont cité ChatGPT comme auteur
Dans les domaines des nouveaux médias, du cinéma et de la télévision, du développement de logiciels, de l'interaction avec les jeux et dans d'autres domaines, ChatGPT est rapidement utilisé pour assister la production et améliorer l'efficacité.
Le Cercle Xueyan ne fait pas exception.
Selon les statistiques de Nature, il existe au moins 4 articles utilisant ChatGPT et le répertoriant comme auteur.
L'une des prépublications a été publiée sur la base de données de prépublications médicales medRxiv en décembre 2022. Cet article étudie les performances de ChatGPT lors de l'examen de licence médicale aux États-Unis. Bien que la recherche porte sur ChatGPT, ChatGPT est également répertorié dans la colonne des auteurs.
Un autre article a été publié dans le Journal of Nurse Education Practice sur les avantages et les inconvénients des plateformes ouvertes d'intelligence artificielle dans la formation infirmière. De même, ChatGPT est répertorié comme auteur :
Le troisième article vient d'AI. société de recherche et développement de médicaments Insilico Medicine, le contenu sur un nouveau médicament, la rapamycine, a été publié dans "Oncoscience". De même, ChatGPT est répertorié comme l’auteur.
Le quatrième article est un peu "vieux", publié en juin 2022, et le sujet est la capacité de l'IA à générer des articles. L'IA répertoriée dans la colonne des auteurs n'est pas ChatGPT, mais GPT-3, qui a été publié plus tôt.
Bien que le contenu de recherche ci-dessus soit quelque peu lié aux modèles de langage génératifs, pour des activités de recherche scientifique sérieuses, utiliser des « objets de recherche » pour rédiger des articles et les lister dans la colonne des auteurs suscitera inévitablement des controverses et des doutes.
Comme mentionné précédemment, Alex Zhavoronkov, PDG d'Insilico Medicine, une société de recherche et de développement de médicaments basés sur l'IA, a révélé que son institution avait publié plus de 80 articles générés par des outils d'IA.
Le professeur britannique Mike Sharples s'intéresse à l'impact de l'IA générative sur la recherche universitaire. Il n'y a pas si longtemps, il a personnellement démontré sur Twitter comment utiliser un grand modèle de langage pour générer un article académique en 10 minutes. Il a décrit étape par étape comment il utilisait l'IA pour générer un résumé basé sur le titre, ce qui a également déclenché de nombreuses discussions. .
Il est plus courant que les étudiants utilisent ChatGPT pour rédiger des articles, générer du code et terminer des devoirs. Actuellement, les établissements d'enseignement de certaines régions des États-Unis ont interdit l'utilisation de cet outil.
La semaine dernière, un étudiant de la Northern Michigan University s'est appuyé sur ChatGPT pour rédiger un essai avec le score le plus élevé de la classe.
Fait intéressant, l'étudiant a été attrapé parce que l'article qu'il a soumis était si logiquement cohérent et bien structuré que l'instructeur n'a appris la vérité qu'après l'avoir interrogé.
△ Northern Michigan University
Ce qui doit être clair, c'est que la capture de paquets mentionnée ci-dessus est simplement accidentelle. Le plus souvent, le contenu généré a rendu difficile pour les scientifiques d'en distinguer l'authenticité. du faux.
Un article précédent dans Nature soulignait qu'après la sortie de ChatGPT, une équipe de recherche de l'Université Northwestern dans l'Illinois étudiait si les scientifiques pouvaient reconnaître les résumés d'articles médicaux générés à l'aide de cet outil d'IA.
Les résultats ont révélé que tous les résumés générés par l'IA ont passé le détecteur de plagiat et lors de l'examen manuel, 32 % des résumés générés par l'IA ont été considérés comme ayant été complétés par de vrais humains.
Le sort de la Nature montre qu'elle attache une grande importance aux problèmes provoqués par ChatGPT.
Dans le dernier contenu, Nature a déclaré que les cercles universitaires et de recherche craignent que les étudiants et les chercheurs puissent utiliser le contenu généré par des modèles de langage à grande échelle comme texte écrit par eux-mêmes. En plus de prendre des risques, le processus ci-dessus produira également des textes peu fiables. texte.
Surtout pour ChatGPT, l'équipe Nature et de nombreux éditeurs et plateformes estiment que cet outil ne peut être responsable de l'intégrité et du contenu des articles scientifiques.
Une preuve secondaire est que le média technologique CNET a révélé au cours des deux derniers jours que 41 des 77 contenus écrits par l'IA de la plateforme contenaient des erreurs. Actuellement, la plateforme les a corrigés et a déclaré qu'elle suspendrait ainsi la production de contenu. .
C'est précisément sur la base des inquiétudes suscitées par la situation ci-dessus que Nature a introduit des réglementations pertinentes.
Quant à savoir comment distinguer le contenu généré par l'IA ?
Nature a déclaré que le résultat brut actuel de ChatGPT peut être découvert grâce à une inspection minutieuse, en particulier lorsqu'il s'agit de travaux scientifiques spécifiques, le contenu peut contenir les erreurs les plus simples et des formulations généralement ennuyeuses. En outre, Nature a également déclaré qu'elle développait toujours une technologie de reconnaissance connexe.
Il est à noter que des outils d'identification pertinents ont également été développés.
Par exemple, le détecteur de sortie GPT-2 d'OpenAI peut identifier plus précisément le texte généré par l'IA en saisissant plus de 50 caractères (jetons).
Un autre exemple est Edward Tian, étudiant à l'Université de Princeton, qui a également créé un outil connexe GPTZero.
Cependant, tous les professeurs et enseignants d'université n'ont pas une attitude négative à l'égard des outils de génération d'IA.
Par exemple, Ethan Mollick, professeur à la Wharton School de l'Université de Pennsylvanie, a pris le chemin inverse et a demandé aux étudiants d'utiliser ChatGPT pour effectuer leurs devoirs en classe, estimant qu'il s'agissait d'adopter des outils technologiques émergents.
Un travailleur de medRxiv, une plateforme de publication papier, a également déclaré que ChatGPT n'est pas un problème nouveau.
Il pense qu'avant, les chercheurs avaient tenté d'ajouter secrètement les noms d'animaux de compagnie et de personnages fictifs. Ils estiment donc que le cœur du problème réside dans la nécessité de continuer à renforcer les inspections.
Pour finir, avez-vous utilisé ChatGPT dans vos travaux de recherche scientifique ?Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
![[Web front-end] Démarrage rapide de Node.js](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
