Les modérateurs de Stack Overflow, une plateforme de questions-réponses pour les programmeurs, se mettent en grève pour protester contre le fait que l'entreprise autorise le contenu généré par l'IA à inonder le site.

Actualités du 7 juin, Stack Overflow est un forum de développeurs de logiciels bien connu géré par Stack Exchange, où les utilisateurs peuvent poser et répondre à diverses questions de programmation.

Les modérateurs ont écrit dans une lettre ouverte : "Stack Overflow, Inc. a interdit toute censure du contenu généré par l'IA... Par défaut, des informations incorrectes ("illusion") sont autorisées à apparaître sur le réseau Stack Exchange. Le plagiat . Réseau Stack Exchange. Appel à une grève complète des modérateurs «

Les modérateurs ne peuvent plus censurer le contenu car il est généré par l'intelligence artificielle, cette politique sera mise en œuvre fin mai. Cependant, les modérateurs estiment que sans une conservation appropriée du contenu généré par l'IA, la qualité et l'exactitude des informations sur le site Stack Exchange se dégraderont rapidement.

Les modérateurs ont publié un article sur Meta Stack Exchange expliquant plus en détail leurs demandes. L'article dit : « Les chatbots IA sont comme des perroquets. ChatGPT, par exemple, ne comprend pas les réponses qu'il vous donne ; il se contente de répéter des phrases qui semblent raisonnables en fonction des invites qui lui sont données et des informations auxquelles il a accès. Je ne peux pas le vérifier. Les réponses qui vous sont fournies sont exactes. ChatGPT n'est pas un écrivain, un programmeur, un scientifique, un physicien ou tout autre type d'expert sur lequel s'appuie notre site Web, uniquement sur la base de sa formation lorsqu'on lui demande de le reconstituer. Il ne comprend pas ce qu'il dit. »

L'article indiquait également : « Cela permet aux utilisateurs de répéter les réponses de ChatGPT sans comprendre ce qu'ils disent, ce qui va à l'encontre de l'objectif de notre site Web : être un site Web de haute qualité. Une bibliothèque de contenu de questions-réponses. »

Un autre problème, disent les modérateurs, est le manque de transparence de l'entreprise dans l'élaboration de cette politique. En décembre, le site a mis en œuvre une politique temporaire interdisant toute utilisation de ChatGPT car elle était « généralement inexacte » et violait les exigences de citation du site, ont-ils écrit dans l'article. Cette politique a été soutenue par des modérateurs bénévoles et le personnel de Stack Exchange et a entraîné la suppression de nombreux messages et l'interdiction d'utilisateurs.

Le 29 mai, cependant, les modérateurs ont écrit que l'entreprise avait mis en œuvre en privé une nouvelle politique qui appelait à « la fin immédiate de l'interdiction des utilisateurs pour le contenu généré par l'IA et la fin de l'interdiction de l'IA sur la seule base de cette raison ». modéré. Le lendemain, une version légèrement différente de la politique a été publiée, qui n'incluait pas de libellé demandant aux modérateurs de cesser de restreindre tout le contenu de l'IA

"La nouvelle politique a renversé le consensus atteint par la communauté et ne l'a pas contredit. Les discussions de tout membre de la communauté sont trompeuses pour les modérateurs et le public, et constituent des affirmations sans fondement basées sur une analyse de données non censurées et non révisables », lit-on dans le message de Meta Stack Exchange

Les modérateurs ont également demandé à l'entreprise d'apporter des améliorations aux problèmes non liés à l'IA. "Cette grève est également en grande partie due à un modèle de comportement que Stack Exchange a montré récemment", lit-on dans l'article. "L'entreprise ignore une fois de plus les besoins de la communauté et le consensus existant, elle s'est plutôt concentrée sur la transformation de l'entreprise. aux frais de son propre community manager. Ils ont cité l'exemple d'une fonctionnalité de chat d'un site qui était obsolète mais négligée depuis des années.

IT House a noté que la grève était la première action majeure contre l'afflux de contenu généré par l'IA sur les sites en ligne, et les modérateurs d'autres forums avaient des préoccupations similaires. Certains modérateurs de Reddit se sont préparés à un certain nombre de publications contenant des informations erronées générées par l’IA. Un modérateur anonyme de Reddit a déclaré à Carte mère que le problème des robots alimentés par ChatGPT sur Reddit est « assez grave » et que des centaines de comptes ont été manuellement supprimés du site parce que les systèmes automatisés de Reddit ont du mal à gérer le contenu généré par l'IA.

Les modérateurs ont demandé à l'entreprise de retirer et de réviser la politique d'IA afin de résoudre l'incohérence entre les versions publique et privée, et de s'excuser auprès du public. Philippe Beaudette, vice-président de la communauté chez Stack Overflow, a déclaré à Carte mère dans un communiqué : « Un petit nombre de modérateurs (11 %) sur le réseau Stack Overflow ont cessé de participer à certaines activités, y compris la modération du contenu. La principale raison de notre action est en raison de l'impact sur notre position insatisfaite sur les outils de détection de génération de contenu IA. Stack Overflow a mené une analyse et a découvert que l'outil de détection ChatGPT précédemment utilisé par les modérateurs avait un taux de faux positifs étonnamment élevé », ont écrit les modérateurs dans l'article. c'est un problème avec l'outil. "Nous maintenons notre décision de demander aux modérateurs de cesser d'utiliser l'outil précédent", a poursuivi Beaudette, "et nous pensons que nous trouverons une voie à suivre. Nous regrettons que les choses en soient arrivées à ce stade et l'équipe de gestion de la communauté évalue la situation pendant que Try pour stabiliser la situation dans un court laps de temps. »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!