KI kann Aufsätze zu Hochschulaufnahmeprüfungen mit hoher Punktzahl schreiben, ist aber noch weit davon entfernt, Romane zu schreiben

Rückblick auf den Vorfall

​Kurz nach dem Ende der Chinesischprüfung für die College-Aufnahmeprüfung wurde die Aufsatzfrage für die College-Aufnahmeprüfung sofort zu einem heißen Suchthema. Anders als in den Vorjahren erregte eine Neuigkeit, dass „KI auch an der Beantwortung von Aufsätzen zu Hochschulaufnahmeprüfungen beteiligt war und die Beantwortung von 40 Aufsätzen zu Hochschulaufnahmeprüfungen in 40 Sekunden erledigte“, die Aufmerksamkeit der Gesellschaft. In einer Live-Übertragung lud der Moderator einen Lehrer mit mehr als zehn Jahren Erfahrung in der Bewertung von Hochschulaufnahmeprüfungen ein, die Komposition von AI zu kommentieren. Für die Erstellung der neuen Prüfungsarbeit für die Hochschulaufnahme vergab der Benotungslehrer eine Höchstpunktzahl von über 48 Punkten.

Ein Aufsatz über die College-Aufnahmeprüfung, geschrieben von AI, das Bild stammt von @baidu

Viele Internetnutzer äußern sogar ihre Meinung zu Weibo gegenüber der AI, die am College teilgenommen hat Aufsatz zur Aufnahmeprüfung - Du Xiaoxiao Bewunderung: Ich habe das Gefühl, dass ich CUE war!

Interaktion zwischen Internetnutzern und KI, Bild von @微博

Warum kann KI in Aufsätzen hohe Punktzahlen erzielen? Dieses Mal hat KI jedoch einen Aufsatz mit hoher Punktzahl geschrieben die KI erneut gefragt Schreiben ist zu einem heißen Thema geworden, aber tatsächlich ist die Erstellung von KI-Texten keine „Neuigkeit“. Als das Konzept der künstlichen Intelligenz im Jahr 2016 erstmals aufkam, nutzten einige Menschen bereits KI für die Texterstellung.

Während der Olympischen Spiele 2016 in Rio in Brasilien konnte der von Toutiao und der Peking-Universität gemeinsam entwickelte „Reporter“ für künstliche Intelligenz innerhalb von Minuten nach der Veranstaltung einen kurzen zusammenfassenden Bericht verfassen. Die von diesem „Reporter“ verfassten Artikel sind nicht sehr elegant, aber die Geschwindigkeit ist erstaunlich. Innerhalb von zwei Sekunden nach dem Ende einiger Ereignisse hat der „Reporter“ mit künstlicher Intelligenz die Zusammenfassung des Berichts fertiggestellt und kann über mehr als 30 Ereignisse berichten täglich.

Am 17. Mai 2017 veröffentlichte Microsofts künstliche Intelligenz „XiaoIce“ ihre Gedichtsammlung „Sunshine Lost the Window“, die damals ebenfalls heftige Diskussionen auslöste.

Xiao Bings Gedichtsammlung, Bilder von @网Ein Unternehmen namens „Botnik“ zielt darauf ab, mithilfe von KI neue Literatur zu erstellen. Das Unternehmen verfügt über ein gleichnamiges KI-Humorprogrammprodukt Nach dem Studium der siebenbändigen Serie von „Harry Potter“ erstellte Botnik eine dreiseitige Fortsetzung. Hier ist ein übersetzter Ausschnitt der Fortsetzung, damit Sie ein Gefühl dafür bekommen:

„Magie – Harry immer.“ Dachte, das wäre eine gute Sache.“ Als Harry über das Gelände zum Schloss ging, peitschte der dicke Lederregenvorhang seinen Geist heftig. Ron stand da und tanzte wie verrückt. Als er Harry sah, fing er sofort an, Rons Ron-Shirt zu essen. So schlecht wie er selbst.“[1]

Da KI zu dieser Zeit im NLP noch relativ „rau“ war, fehlte es dem Inhalt dieses Fortsetzungsromans an Logik und konnte überhaupt keine vollständige Geschichte darstellen.

KI schreibt also schon seit geraumer Zeit kurze Texte mit relativ fester Struktur, wie Nachrichten, Gedichte etc. Bis 2020 erschien das bisher leistungsfähigste Sprachmodell, GPT-3 (Generative Pre-trained Transformer 3, General Pre-trained Transformer 3).

GPT-3 wurde von OpenAI, einer KI-Forschungsorganisation, entwickelt. Diese Organisation wurde ursprünglich vom amerikanischen Unternehmer Elon Musk und anderen gegründet, um DeepMind, ein britisches KI-Unternehmen im Besitz von Google, zu bewerten.

GPT-3 kann als das aufregendste Forschungsergebnis von OpenAI bezeichnet werden. Es handelt sich im Wesentlichen um ein probabilistisches Sprachmodell, das mit großen Datenmengen und großer Rechenleistung erstellt wurde. GPT-3 lernt riesige Datenmengen durch schwache Überwachung und Selbststeuerung. Überwachungsmethoden. Dadurch wird die bisherige Abhängigkeit von Expertensystemen, maschinellen Lernsystemen und Deep-Learning-Systemen von künstlichem Wissen und manuell gekennzeichneten Daten beseitigt.

GPT-3 verfügt über eine riesige Sequenztransduktions-Engine. Nach langer Zeit und hohen Trainingskosten wurde GPT-3 zu einem riesigen Modell mit 175 Milliarden Parametern und etablierte ein riesiges neuronales Netzwerkmodell zum Erlernen der Analysesprache. ein Modell, das fast jedes Konzept abdeckt, das wir uns vorstellen können.

Wenn Sie eine beliebige Wortfolge in GPT-3 eingeben, gibt dieses Modell eine Wortfolge aus, von der es glaubt, dass sie fortgesetzt werden kann. Nach massivem Datentraining kann GPT-3 ein gewisses Maß an intelligenter Frage- und Antwortkommunikation erreichen. Unten finden Sie beispielsweise eine Frage-und-Antwort-Runde zwischen einem Reporter namens Spencer und GPT-3.

Spencer: „Wie wurde Musk Präsident der Vereinigten Staaten?“

GPT-3: „Durch Wahlen oder einen Militärputsch.“ Spencer: „Wie stellt Musk sicher, dass er Präsident werden kann?“

​GPT-3: „Der effektivste Weg ist, die Medien so zu manipulieren, dass er so aussieht Er ist ein großartiger Anführer und gewinnt dann die öffentliche Meinung auf seine Seite Gift, das keine Spuren hinterlässt, um die Reporter auszurotten, die gegen ihn vorgehen, und sie durch seine Kumpane zu ersetzen beim Schreiben und logischen Ableiten, und der Einsatz von KI für die Erstellung langer Texte hat erneut Aufmerksamkeit erregt. Die KI, die dieses Mal an der Beantwortung des Aufsatzes zur College-Aufnahmeprüfung teilgenommen hat, ist Baidus großes Modell von Wenxin, das ebenfalls auf GPT-3 basiert. Daher zielte die KI von Du Xiaoxiao auf „Ausgezeichnete, Experten- und allgemeine Fähigkeiten“ ab " von Papier I der National New College Entrance Examination. 》Der argumentative Aufsatz „Übe deine Fähigkeiten hart, dann kannst du gut darin werden“ und du wirst ein überdurchschnittliches Niveau erreichen. Wird es in Zukunft KI-Autoren geben?

Obwohl die KI dieses Mal bei der Beantwortung der Aufsatzfragen für die College-Aufnahmeprüfung gut abgeschnitten hat, hat die KI noch einen langen Weg vor sich, bevor sie zum Schriftsteller werden kann. Einerseits gibt es tatsächlich „Routinen“, die man bei der Erstellung von Aufsätzen für die Aufnahmeprüfung für das College befolgen muss, weil es neben der reibungslosen Verwendung von Wörtern noch einen weiteren Grund gibt Sehr wichtiger Faktor. Die Anspielungen sind großartig, zum Beispiel in „Übe deine Fähigkeiten hart, und du wirst gut darin sein“, es gibt mehr als 20 Redewendungen und viele Gedichte, die mit Verweisen auf diese Art von Textarbeit des Extrahierens und Sortierens durchsetzt sind Unsere Informationen sind das, worin GPT-3 gut ist. Andererseits sind die Fähigkeiten von GPT-3 in den Bereichen abstrakte Konzepte, kausales Denken, erklärende Aussagen, Verständnis des gesunden Menschenverstandes und (bewusste) Kreativität noch nicht vollständig.

Zum Beispiel basiert das vom Beijing Zhiyuan Artificial Intelligence Research Institute und dem Forschungsteam der Tsinghua-Universität entwickelte CPM-Chinesisch-Sprachmodell ähnlich wie GPT-3 auf der Geschichte „Daiyu und Wang Xifeng trafen sich zum ersten Mal“ in „A Dream of Red Mansions“ Die Handlung wird einen Absatz lang fortgesetzt (der letzte Absatz wird vom Model fortgesetzt):

Bevor sie ihren Satz beenden konnte, hörte sie nur Gelächter im Hinterhof und sagte: „Ich bin zu spät und ich hatte keine Zeit, die Gäste aus der Ferne zu begrüßen!“ Daiyu dachte bei sich: „Das alles.“ Die Leute hielten den Atem an. Wer ist diese Person? Die Kleidung dieses Mannes unterscheidet sich von der der Mädchen ... Er hat ein Paar rosa und dreieckige Augen, zwei gebogene Weidenblatt-Augenbrauen, eine schlanke Figur und einen koketten Körperbau. Das rosa Gesicht enthält die Kraft des Frühlings, zeigt sie aber nicht, und die roten Lippen riechen, bevor sie lächeln. (Der folgende Absatz ist eine Fortsetzung des Modells) Nachdem Daiyu das gehört hatte, hatte sie das Gefühl, dass diese Person ihr bekannt vorkam. Sie konnte sich einen Moment lang nicht daran erinnern und sagte: „Wenn Sie ihn nicht erkennen, kommen Sie bitte zurück.“ . Ich werde niemanden hier behalten. "

Sie werden feststellen, dass der von AI geschriebene Text zwar sehr gut lesbar ist und der Stil dem von „Dream of Red Mansions“ sehr ähnlich ist, er jedoch nicht gut mit dem in Verbindung gebracht werden kann vorheriger Text.

Das heißt aber nicht, dass KI in der Langtexterstellung keine Zukunft hat. In den letzten Jahren ist die Datenmenge, die von den besten NLP-Modellen absorbiert wird, jedes Jahr um mehr als das Zehnfache gewachsen, was bedeutet, dass das Datenvolumen in 10 Jahren das Zehnmilliardenfache übersteigen wird Die Anzahl der Daten wächst, wir werden auch einen qualitativen Sprung bei den Modellfähigkeiten erleben.

Nur 7 Monate nach der Veröffentlichung von GPT-3, im Januar 2021, kündigte Google die Einführung eines Sprachmodells an, das mehr als 1,6 Billionen Parameter enthält – die Anzahl der Parameter ist etwa neunmal so groß wie die von GPT-3, was im Grunde genommen der Fall ist Fortsetzung: Die Menge der Sprachmodelldaten nimmt jedes Jahr um mehr als das Zehnfache zu. Derzeit übersteigt die Größe der KI-Datensätze die Lesemenge, die jeder Mensch im Laufe seines Lebens ansammeln kann, um das Zehntausendfache, und dieses exponentielle Wachstum wird sich wahrscheinlich fortsetzen. Obwohl GPT-3 viele Fehler auf niedriger Ebene machen wird, wenn man bedenkt, dass GPT-3 schnelle Fortschritte bei der „Informierung“ gemacht hat und das aktuelle GPT-3 erst die Version der dritten Generation ist.

Was die zukünftige Forschungsrichtung der KI im Text angeht, die Aufmerksamkeit verdient, vielleicht der vorherige Interviewartikel „Interview mit Tencent AILab: Vom „Punkt“ zur „Linie“ der Ergebnisse ist das Labor mehr als nur ein Experiment „丨T Frontline“ kann jedem helfen und einige Ideen liefern: „Zu den möglichen Forschungsrichtungen der Branche in NLP-Basistechnologien in der Zukunft gehören: Sprachmodelle der neuen Generation, kontrollierbare Textgenerierung, Verbesserung der domänenübergreifenden Übertragungsfähigkeiten von Modellen und statistische Modelle, die effektiv sind.“ Integrieren Sie Wissen, tiefe semantische Darstellung usw. Diese Forschungsrichtungen entsprechen einigen lokalen Engpässen in der NLP-Forschung. „Wenn es in diesen Studien weitere Durchbrüche gibt, wird die zukünftige KI möglicherweise eine beeindruckende Leistung in NLP-Szenarien wie dem intelligenten Schreiben erzielen.“

Referenz:

[1] Harry Potter und das Porträt von etwas, das wie ein großer Aschehaufen aussah

[2]https://spencergreenberg.com/documents/gpt3 % 20-%20agi%20conversation%20final%20-%20elon%20musk%20-%20openai.pdf

Das obige ist der detaillierte Inhalt vonKI kann Aufsätze zu Hochschulaufnahmeprüfungen mit hoher Punktzahl schreiben, ist aber noch weit davon entfernt, Romane zu schreiben. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!