OpenAI veröffentlicht das ChatGPT-Tool zur Erkennung der Textgenerierung mit künstlicher Intelligenz

​ChatGPT

ChatGPT ist ein interaktives Dialogmodell in natürlicher Sprache, das im November 2022 von OpenAI eingeführt wurde. OpenAI verwendet RLHF (Reinforcement Learning from Human Feedback), um ChatGPT zu trainieren. Dabei handelt es sich um dieselbe Methode, die von InstructGPT verwendet wird. Es gibt jedoch offensichtliche Unterschiede in den Datenerfassungseinstellungen. Verwenden Sie überwachtes Tuning (Parameter), wenn Sie das anfängliche Modell trainieren: Sitzungen, die von einem menschlichen KI-Trainer bereitgestellt werden. Trainer haben Zugriff auf Modellvorschläge, um dem Trainer dabei zu helfen, die Antworten besser zu vervollständigen. Der neu generierte Konversationsdatensatz wird dann mit dem InstructGPT-Datensatz gemischt, um ein Konversationsformat zu bilden.

ChatGPT sorgte nach seiner Veröffentlichung für einen Schock in der Branche und wurde anschließend von allen Parteien, einschließlich Studenten, ausführlich getestet. Einige Schüler verwenden ChatGPT zum Schreiben von Aufsätzen, Aufgaben und Programmen, und für Lehrer ist es schwierig zu erkennen, ob die Aufsätze, Aufgaben und Programme von den Schülern selbst erledigt werden. Darüber hinaus gibt es viele unveröffentlichte, mit ChatGPT unterzeichnete Arbeiten.

Als Reaktion auf dieses Problem haben Schulen auf der ganzen Welt Maßnahmen ergriffen, beispielsweise das Verbot der Plattform. Laut Business Insider wurde ChatGPT aus Mittel- und Oberschulen in New York, Seattle, Los Angeles und anderen Orten verbannt, und die Plattform wurde auch von Universitätscomputern in Frankreich und Indien verbannt.

ChatGPT-Erkennungstool

Am 31. Januar kündigte OpenAI die Einführung eines Textklassifikators mit künstlicher Intelligenz an, der erkennen soll, ob der Eingabeinhalt von Tools für künstliche Intelligenz wie ChatGPT generiert wird.

OpenAI sagt, sein Klassifikator sei nicht völlig zuverlässig. Beim Test an englischem Text identifizierte der Klassifikator 26 % des durch künstliche Intelligenz generierten Textes korrekt, und etwa 9 % der von Menschen geschriebenen Inhalte wurden fälschlicherweise als durch künstliche Intelligenz generiert gekennzeichnet. Die Leistung des Klassifikators verbessert sich mit zunehmender Länge des Eingabetextes. Im Vergleich zu anderen früheren Klassifikatoren ist die Genauigkeit dieses Klassifikators höher als die anderer Erkennungsklassifikatoren.

Classifier-Testadresse: http://platform.openai.com/ai-text-classifier

OpenAI sagte, dass es nicht empfohlen wird, dieses Tool zur Entscheidungsfindung zu verwenden, da die Ergebnisse nicht vollständig zuverlässig sind Nachweiswerkzeuge und Ergänzung zur Methode.

ChatGPT-Testadresse: https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-scribed-text

Dieser Artikel ist übersetzt von: https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-scribed-text/

Das obige ist der detaillierte Inhalt vonOpenAI veröffentlicht das ChatGPT-Tool zur Erkennung der Textgenerierung mit künstlicher Intelligenz. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!