Gros retournement ! Les modérateurs de StackOverflow se mettent en grève !

Auteur | Xu Jiecheng

L'un des forums de questions-réponses pour développeurs les plus populaires au monde, Stack Overflow, a connu un autre incident majeur ! Récemment, il est tombé dans une nouvelle crise - plus de 700 modérateurs ont récemment annoncé conjointement qu'ils organiseraient une grève collective pour protester contre la nouvelle politique de Stack Overflow sur la réglementation du contenu généré par l'intelligence artificielle.

Selon la description de la nouvelle politique, dans la plupart des cas, les modérateurs de Stack Overflow n'auront plus le pouvoir de modifier ou de supprimer le contenu généré par l'intelligence artificielle. Les deux principales contradictions sont les suivantes : premièrement, les modérateurs se sentent incapables d'effectuer des tâches d'inspection de qualité en raison de l'impact de la nouvelle politique ; deuxièmement, cette nouvelle politique est appliquée sans consultation ;

1. AI New Deal : reprenez le pouvoir et alignez les normes d'évaluation du contenu de l'IA

Dans le document officiel, Stack Overflow a déclaré que nous avions récemment mené une analyse des méthodes d'examen du contenu généré par l'intelligence artificielle. Les résultats montrent que le contenu généré par l'IA n'est pas correctement reconnu sur le site Web, en particulier lorsque le taux de faux positifs du détecteur est très élevé, ce qui entraînera un biais contre le contenu du site Web et entraînera la perte d'un grand nombre de contributeurs.

Afin d'atténuer ce problème, Stack Overflow exige que les modérateurs utilisent des normes de preuve très strictes pour déterminer si les publications sont générées par l'IA lorsqu'ils décident de modifier, supprimer des publications et bannir des utilisateurs - Modérateur Le les critères de jugement auparavant habituels basés sur le style d'écriture et le comportement du forum ne seront plus disponibles. Et parce que le taux de faux positifs du détecteur GPT est trop élevé, le responsable a également décidé d'exclure les résultats du détecteur des indicateurs de jugement.

En bref, dans le cadre de la nouvelle réglementation, Stack Overflow a imposé de nombreuses restrictions sur le pouvoir des modérateurs. Ce n'est qu'après un examen strict et la preuve que le message contient un contenu illégal que le modérateur a le droit d'intervenir sur le message ou l'affiche. Cependant, ce qui est encore plus insatisfaisant est que le New Deal ne fournit pas de suggestions d’évaluation plus réalisables, mais impose seulement des restrictions générales aux normes précédentes.

2. Plus de 700 modérateurs se sont mis en grève collectivement : leur travail acharné ne peut pas être vain

Avant cela, afin de garantir la qualité et l'exactitude du contenu de la communauté, Stack Overflow avait autorisé les modérateurs à bannir les comptes suspectés de publication. Contenu généré par l'IA tel que ChatGPT et droit de supprimer des publications. Cependant, avec cette nouvelle politique, Stack Overflow s'est sans aucun doute mis sur le front l'étiquette de « renouveler sa parole ».

Face à cette politique obligatoire sans consultation, un grand nombre de modérateurs et d'utilisateurs de Stack Overflow ont également exprimé leur mécontentement. Certains ont même suggéré que la promulgation de la nouvelle politique n'est qu'une hallucination d'informations et un plagiat généré par l'intelligence artificielle. Lorsque les utilisateurs ouvriront Stack Overflow, ils verront un flot de désinformations, ce qui sapera la confiance de longue date dans la plateforme.

Afin de protester contre la nouvelle politique imposée par les responsables de Stack Overflow, certains modérateurs et utilisateurs ont écrit une lettre ouverte et ont déclaré qu'ils feraient grève pour rappeler à Stack Overflow qu'il valorise l'intégrité et la crédibilité de la plateforme. et le contenu.

La lettre ouverte mentionne que nous prévoyons une grève pour résister aux différentes politiques et changements à venir qui nous sont imposés par Stack Overflow. Nous utiliserons le dernier recours pour protéger la plateforme dans laquelle nous avons investi plus de dix ans de travail acharné. La mission principale du réseau Stack Exchange est : construire une base d'informations de haute qualité sous forme de questions et réponses. Les actions récentes de Stack Overflow nuiront à cet objectif.

Ne plus permettre la suppression des réponses générées par l’IA entraînera la prolifération d’informations hallucinatoires et de plagiat sur la plateforme, détruisant la confiance des utilisateurs dans la plateforme, et ces politiques ignoreront complètement le consensus de la communauté institutionnelle. Par conséquent, nous appelons à une grève de révision globale en dernier recours pour protéger la plateforme contre la perte de valeur avant que la politique ne soit officiellement rétractée ou modifiée.

Jusqu'à présent, cette lettre ouverte a reçu le soutien de plus de 700 modérateurs, et ce nombre continue de croître.

3. Le véritable objectif de Stack Overflow

Selon les initiés, la raison pour laquelle Stack Overflow a promulgué la nouvelle politique est très compliquée, mais son objectif principal devrait certainement être d'augmenter le trafic du site Web. vers ChatGPT et GitHub En raison de l'impact de Copilot, le trafic du site Web a montré une tendance à la baisse au cours des derniers mois.

En fait, quelques semaines après le lancement de ChatGPT, un grand nombre d'utilisateurs ont commencé à déplacer le contenu généré par l'IA vers la plateforme Stack Overflow. Cependant, même si les réponses générées par ChatGPT semblent généralement bonnes, il y a toujours des erreurs et le grand nombre de réponses impose une lourde charge aux bénévoles responsables de la modération du contenu.

Afin de résoudre ces problèmes, Stack Overflow a alors émis une interdiction et annoncé qu'il interdirait la publication de contenu de code généré par l'intelligence artificielle sur son site Web. Bien que cela protège dans une certaine mesure l’intégrité et la crédibilité du contenu de la plateforme. Cependant, à mesure que les outils de génération d'IA tels que ChatGPT et GitHub Copilot continuent de mûrir et que le nombre d'utilisateurs augmente, de plus en plus d'utilisateurs commencent à abandonner Stack Overflow.

Même si le contenu renvoyé par ces outils de génération d'IA n'est parfois pas complètement précis ou cohérent avec les besoins des utilisateurs, la réponse est généralement très proche et peut être façonnée et ajustée en une solution réalisable. Ce n'est pas très différent de demander à d'autres personnes de poser des questions sur Stack Overflow, et c'est encore plus efficace que le format traditionnel de questions-réponses.

Par conséquent, afin d'améliorer l'efficacité de la production de contenu de sites Web et d'attirer davantage d'utilisateurs, Stack Overflow publiera une nouvelle politique, au nom de l'amélioration des normes d'audit, pour permettre tacitement aux utilisateurs de publier du contenu généré par l'IA sur la plateforme. Mais évidemment, cette idée n’a pas été reconnue par tout le monde. Pour les modérateurs, le travail non rémunéré qu’ils effectuent consiste à améliorer la qualité du contenu de la plateforme, et non le niveau de trafic du site Web.

4. Commentaires des internautes : Réfléchissez avant d'agir

Concernant la nouvelle politique promulguée par Stack Overflow et la grève et la résistance de la majorité des modérateurs, de nombreux internautes ont également partagé leurs points de vue et suggestions sur les principaux forums.

Un internaute nommé fungiblecog a laissé un message sur Reddit disant : « Les gens confondent deux questions différentes : quelle devrait être la politique et comment gérer le contenu généré par l'IA qui inonde la plateforme. Jusqu'à ce qu'il n'y ait pas de moyen infaillible, le seul Il s'agit de vérifier son authenticité et de le résoudre en tant que problème distinct avant que la prolifération du contenu ne provoque des effets néfastes. » Un autre internaute a posté sur le forum Stack Overflow : « L'objectivité du contenu de Stack Overflow signifie que si une partie d'une réponse est fausse. , c'est objectivement faux. Afin de maintenir des normes uniformes, nous devons choisir des sources d'informations correctes et fiables avant que GPT ne suffise à convaincre les utilisateurs du site Web que la réponse est précieuse. "

Dans. De plus, certains internautes ont mentionné : « Maintenant, j'utilise Stack Overflow dans une approche « faire confiance mais vérifier ». Je considérerai par défaut la réponse de l'utilisateur comme étant digne de confiance. Je vérifierai toujours quand c'est important. En ce qui concerne le contenu généré par l'IA, si nous adoptons une réponse. approche « méfiance et vérification », pourquoi devrions-nous encore utiliser Stack Overflow ? »

5. Écrivez à la fin : Stack n'est plus Overflow

En fin de compte, Stack Overflow a toujours été une communauté fondée sur la confiance. La communauté estime que les réponses soumises par les utilisateurs reflètent fidèlement ce qu'ils savent réellement, et que les utilisateurs s'entraident pour vérifier et confirmer l'exactitude de ces réponses et améliorer leurs connaissances et compétences.

Quant aux outils actuels de génération d'intelligence artificielle, avant que le problème des hallucinations ne soit complètement résolu, les informations qu'ils peuvent fournir ne répondent pas aux normes cohérentes de Stack Overflow, et cela n'aide pas à construire un environnement communautaire digne d'utilisateur confiance , lorsque les utilisateurs collent ces informations dans le code sans pouvoir vérifier l'exactitude des réponses fournies par GPT, la confiance des utilisateurs que la communauté a établie de longue date est brisée.

En ce qui concerne Stack Overflow, bien que le trafic et les revenus actuels du site Web aient été affectés par l'impact de l'IA générative, la confiance des utilisateurs et les principes fondamentaux ne doivent pas être utilisés comme monnaie d'échange dans aucune transaction. Comme l'a dit un internaute : Parfois, lorsque je ne suis pas sûr de l'exactitude du contenu généré par Copilot, je demande à quelqu'un sur Stack Overflow de poser des questions. Mais si les réponses sur Stack Overflow sont également générées par l'IA à l'avenir, alors je. devrait aller Où trouver la réponse ?

Lien de référence :

https://devclass.com/2023/06/05/stack-overflow-volunteer-moderators-down-tools-over-secret-new-policy-that-obstructs-removal-of -ai-generated-content/?td=rt-3a

https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned

https://meta.stackexchange.com/ questions/389582/what-is-the-network-policy-regarding-ai-generated-content

https://meta.stackexchange.com/questions/389811/moderation-strike-stack-overflow-inc-cannot-consistently -ignorer-maltraiter-un

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!