Der ICML-Aufruf zur Einreichung von Beiträgen verbietet die Verwendung großer Sprachmodelle. LeCun leitete weiter: Können kleine und mittlere Modelle verwendet werden?

Gestern hat die International Conference on Machine Learning (ICML) einen Call for Papers für 2023 veröffentlicht.

Der Einreichungstermin für die Arbeit ist vom 9. bis 26. Januar.

Allerdings haben die Anforderungen an „ethische Standards“ in diesem Treffen für große Unzufriedenheit gesorgt.

LLM ist unkontrollierbar, bitte verbieten Sie es

Gemäß den Richtlinien der Konferenz sollten alle Autoren und Mitglieder des Programmausschusses, einschließlich Gutachter, ethische Standardgrundsätze befolgen.

Jegliche Form von Plagiaten sowie die unethische Verwendung vertraulicher Informationen durch Gutachter, Area Chairs (ACs) und Senior Area Chairs (SACs), beispielsweise die Weitergabe dieser Informationen oder deren Verwendung außerhalb des Überprüfungsprozesses, Jeder andere Zweck ist strengstens untersagt.

Aufsätze, die Text enthalten, der aus groß angelegten Sprachmodellen (LLM) (wie ChatGPT) generiert wurde, sind verboten, es sei denn, diese generierten Texte werden im Rahmen der experimentellen Analyse des Aufsatzes präsentiert.

Alle mutmaßlichen unethischen Verhaltensweisen werden von der Ethikkommission untersucht und Personen, bei denen festgestellt wird, dass sie gegen die Regeln verstoßen haben, können mit Sanktionen rechnen. In diesem Jahr werden wir die Namen von Personen sammeln, bei denen festgestellt wurde, dass sie gegen diese Standards verstoßen haben. Wir können diese Informationen an Personen weitergeben, die Konferenzen, Zeitschriften oder andere Organisationen vertreten, wenn diese diese Liste zu Entscheidungszwecken anfordern. ​

Unter ihnen wurde die Forderung „Es ist verboten, große Sprachmodelle zum Schreiben von Arbeiten zu verwenden“ von Internetnutzern heftig diskutiert.

Diese Nachricht wurde veröffentlicht und Internetnutzer haben auf dem ICML-Twitter kommentiert: „Warum können keine großen Sprachmodelle verwendet werden?“ ?

Yann LeCun leitete weiter und kommentierte: „Große Sprachmodelle können nicht verwendet werden, was bedeutet, dass mittlere und kleine Sprachmodelle weiterhin verwendet werden können.“

Er erklärte: „Weil Rechtschreibprüfung Anwendungen und Textvorhersage sind ebenfalls Sprachmodelle Grafiken müssen von Hand mit Stift und Papier gezeichnet werden; ab heute ist die offizielle Sprache von ICML (Schweden:?) „Schließlich habe ich nicht vergessen, einen Film „Crazy“ weiterzuleiten Fassen Sie meine Bewertung der ICML-Richtlinien zusammen.

Unter LeCuns Beitrag zeigten Internetnutzer ihre Talente und begannen, auf sich selbst aufzupassen.

Ein Internetnutzer brachte ICML auf eine neue Idee: „Eine andere Möglichkeit, diese Strategie auszudrücken, ist: ‚Der gesamte Text in der Einreichung sollte von einem neuronalen Netzwerk mit Parametern von weniger als 100 B oder mehr als 1 Billion generiert werden‘.“

Einige Leute gaben vor, ICML-Rezensenten zu sein und machten Werbung für ChatGPT: „Als Rezensent für ICML und andere Konferenzen schätze ich es, dass Autoren Tools wie ChatGP verwenden, um ihre Artikel zu verfeinern. Dadurch werden ihre Arbeiten klarer und einfacher zu lesen.“ lesen. (Dieser Beitrag wurde von ChatGPT geändert) „

Zu dieser Regel fasste MIT-Professor Erik Brynjolfsson einfach zusammen: „Das ist ein verlorener Kampf.“

Einige Leute äußerten auch ernsthaft ihre Gedanken zu den ICML-Vorschriften.

Thomas Dietterich, ehemaliger Präsident von AAAI, sagte: „Diese Regel ist seltsam, insbesondere für eine Konferenz über künstliche Intelligenz. Wir sollten alle Artikel begrüßen, die zu Wissenschaft und Technologie beitragen, unabhängig davon, ob der Autor KI-Unterstützung akzeptiert.“ „

Einige Leute haben auch ICML-Verbesserungsvorschläge gemacht:

Die Verwendung großer Sprachmodelle zur Überprüfung ist sehr hilfreich, um Rechtschreibung und Grammatik zu verbessern. Grammarly, Notion, Google Docs und sogar Word verwenden alle große Sprachmodelle.

Es scheint, dass die Lösung darin besteht, die Gründe und Verwendungszwecke der Verwendung großer Sprachmodelle klar zu erklären, anstatt sie zu verbieten.

Es stellt sich heraus, dass ich nicht der Einzige bin, der Grammarly verwendet, um Rechtschreibung und Grammatik zu überprüfen (Doge).

Natürlich äußerten einige Internetnutzer ihr Verständnis und glaubten, dass dieser Schritt dazu diente, die Autorität der Rezensenten zu schützen.

Netizen Anurag Ghosh kommentierte: „Ich denke, die Anforderung von ICML besteht darin, die Veröffentlichung von Papieren zu verhindern, die korrekt erscheinen, zum Beispiel die 5 gefälschten/KI-generierten Papiere, die im Bereich maschinelles Lernen veröffentlicht werden.“ Den Peer-Review-Prozess aufdecken. „

Manche Leute denken: „Wenn sie qualitativ hochwertigere Arbeiten generieren können, was dann?“ Studien stammen nicht aus groß angelegten Sprachmodellen. Und von diesen Forschern werden wir Forschern jegliche Art von Hilfe verbieten, etwa das Googeln oder das Gespräch mit Leuten, die kein Interesse daran haben?“ Die Popularität großer Sprachmodelle hat nie nachgelassen, und die hitzige Diskussion unter Wissenschaftlern und Internetnutzern, die durch das von ICML vorgeschlagene Verbot ausgelöst wurde, wird wahrscheinlich noch einige Zeit andauern.

Es scheint jedoch ein Problem zu geben, über das noch niemand gesprochen hat. Wie kann man beurteilen, ob ein Fragment eines Artikels von einem großen Sprachmodell generiert wurde? Wie kann man dies überprüfen, indem man auf Plagiate prüft? Wenn es sich um einen Artikel handelte, der von einem Maschinenmodell generiert wurde, würde ihn doch niemand ausdrücklich als „Dieser Artikel wurde automatisch von einem großen Sprachmodell generiert“ markieren, oder?

Darüber hinaus sind Forschungsarbeiten mit klarer Logik, klarer Struktur und stark strukturiertem Sprachstil einfach der beste Ort für große Sprachmodelle, selbst wenn der generierte Originaltext etwas steif ist, wenn er als verwendet wird ein Assistent Es kann schwierig sein, die verwendeten Tools zu identifizieren, und es wird schwierig sein, klare Standards zur Umsetzung dieses Verbots festzulegen.

Es scheint, dass die Last auf den Schultern der ICML-Rezensenten diesmal viel größer sein wird.

Das obige ist der detaillierte Inhalt vonDer ICML-Aufruf zur Einreichung von Beiträgen verbietet die Verwendung großer Sprachmodelle. LeCun leitete weiter: Können kleine und mittlere Modelle verwendet werden?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!