Seit OpenAI das große Sprachmodell GPT-4 veröffentlicht hat, versuchen Menschen, diese aufregende Anwendung zu nutzen. GPT-4 kann HTML-Code aus handgezeichneten Website-Modellen generieren. Viele Benutzer haben bewiesen, dass es physische Adressen aus Kreditkartentransaktionen finden, Klageentwürfe erstellen, SAT-Mathetests bestehen, bei Bildung und Ausbildung helfen und sogar Ego-Shooter-Spiele erstellen kann.
Die Leistungsfähigkeit von GPT-4 ist wirklich erstaunlich, und da immer mehr Benutzer auf die multimodale Version zugreifen, kann man mit der Einführung weiterer groß angelegter Sprachmodelle rechnen. Doch während die Menschen die Fortschritte feiern, die Wissenschaftler auf dem Gebiet groß angelegter Sprachmodelle gemacht haben, müssen auch ihre Grenzen beachtet werden.
Große Sprachmodelle wie GPT-4 können viele Aufgaben erledigen, sind aber nicht unbedingt die besten Werkzeuge dafür. Wenn sie eine Aufgabe erfolgreich erledigen, heißt das nicht, dass sie in diesem Bereich zuverlässiger sind.
GPT-4 veranlasste viele Benutzer, OpenAI nach seiner Veröffentlichung zu kritisieren, von denen viele berechtigt sind. Mit jeder Veröffentlichung von GPT werden ihre technischen Details immer undurchsichtiger. Der von OpenAI bei der Veröffentlichung von GPT-4 veröffentlichte technische Bericht enthielt nur wenige Details zur Architektur des Modells, zu Trainingsdaten und anderen wichtigen Aspekten. Es gibt verschiedene Anzeichen dafür, dass sich OpenAI allmählich von einem Forschungslabor für künstliche Intelligenz zu einem Unternehmen wandelt, das Produkte für künstliche Intelligenz verkauft.
Dies schmälert jedoch nicht die faszinierenden technologischen Durchbrüche, die große Sprachmodelle ermöglichen. Das Unternehmen OpenAI hat bei der Entwicklung dieser Technologien eine wichtige Rolle gespielt. In nur wenigen Jahren haben wir uns von den mittelmäßigsten Deep-Learning-Modellen für Sprachaufgaben zu großen Sprachmodellen entwickelt, die Texte erzeugen können, die zumindest oberflächlich sehr menschenähnlich sind.
Darüber hinaus kann Transformer (eine Architektur, die in großen Sprachmodellen verwendet wird) mit ausreichend Parametern, Rechenleistung und Trainingsdaten lernen, mehrere Aufgaben mit einem einzigen Modell auszuführen. Dies ist wichtig, da man bis vor Kurzem davon ausging, dass Deep-Learning-Modelle nur für die Ausführung einer einzigen Aufgabe geeignet seien. Große Sprachmodelle können jetzt mehrere Aufgaben ausführen, indem sie mit Zero-Shot und wenigen Snapshots lernen, und zeigen bei der Skalierung sogar neue Fähigkeiten.
ChatGPT demonstriert vollständig die neuesten Funktionen großer Sprachmodelle. Es kann Codierung, Fragen und Antworten, Texterstellung und viele andere Aufgaben in einem einzigen Gespräch ausführen. Dank einer Trainingstechnik namens Reinforcement Learning from Human Feedback (RLHF) können Anweisungen besser befolgt werden.
GPT-4 und andere multimodale Sprachmodelle zeigen eine neue Welle von Fähigkeiten, wie zum Beispiel die Einbeziehung von Bildern und Sprachnachrichten in Konversationen.
Wenn Sie über die wissenschaftlichen Errungenschaften hinausblicken, können Sie darüber nachdenken, welche Anwendungen große Sprachmodelle wie GPT-4 bieten können. Für Menschen ist ihre Mechanik das Leitprinzip bei der Bestimmung, ob große Sprachmodelle für die Anwendung geeignet sind.
Wie andere Modelle des maschinellen Lernens sind große Sprachmodelle Vorhersagemaschinen. Basierend auf Mustern in den Trainingsdaten sagen sie den nächsten Token in der empfangenen Eingabesequenz voraus und tun dies sehr effizient.
Die Vorhersage des nächsten Tokens ist eine großartige Lösung für bestimmte Aufgaben wie die Textgenerierung. Wenn ein großes Sprachmodell mit Techniken zur Befolgung von Anweisungen wie RLHF trainiert wird, kann es Sprachaufgaben wie das Schreiben von Artikeln, das Zusammenfassen von Text, das Erklären von Konzepten und das Beantworten von Fragen mit erstaunlichen Ergebnissen ausführen. Dies ist eine der genauesten und nützlichsten Lösungen, die derzeit für große Sprachmodelle verfügbar sind.
Allerdings sind große Sprachmodelle in ihren Möglichkeiten zur Textgenerierung noch begrenzt. Große Sprachmodelle halluzinieren oft oder erfinden Dinge, die falsch sind. Daher sollte man ihnen nicht als Wissensquelle vertrauen. Dazu gehört auch GPT-4. Bei einer Untersuchung von ChatGPT durch Branchenexperten wurde beispielsweise festgestellt, dass es mitunter sehr aussagekräftige Beschreibungen komplexer Themen generieren kann, etwa der Funktionsweise von Deep Learning. Dies war hilfreich, wenn er versuchte, jemandem ein Konzept zu erklären, der es möglicherweise nicht verstand, aber auch feststellte, dass ChatGPT auch einige sachliche Fehler machen konnte.
Für die Textgenerierung gilt als Faustregel von Branchenexperten, GPT-4 nur in Domänen zu vertrauen, mit denen Sie vertraut sind und deren Ausgabe überprüft werden kann. Es gibt Möglichkeiten, die Genauigkeit der Ausgabe zu verbessern, einschließlich der Feinabstimmung des Modells mit domänenspezifischem Wissen oder der Bereitstellung von Kontext für die Eingabeaufforderung durch Hinzufügen relevanter Informationen davor. Aber auch diese Methoden erfordern, dass man genug über das Fachgebiet weiß, um zusätzliches Wissen bereitstellen zu können. Vertrauen Sie daher nicht darauf, dass GPT-4 Texte über Gesundheit, Rechtsberatung oder Wissenschaft generiert, es sei denn, Sie kennen diese Themen bereits.
Codegenerierung ist eine weitere interessante Anwendung von GPT-4. Branchenexperten haben GitHub Copilot überprüft, das auf einer optimierten Version von GPT-3 basiert und den Namen Codex trägt. Die Codegenerierung wird immer effizienter, wenn sie in die IDE integriert wird, z. B. Copilot, und kann vorhandenen Code als Szenarien verwenden, um die Ausgabe großer Sprachmodelle zu verbessern. Es gelten jedoch weiterhin die gleichen Regeln. Verwenden Sie nur große Sprachmodelle, um vollständig überprüfbaren Code zu generieren. Blindes Vertrauen in große Sprachmodelle kann zu nicht funktionierendem und unsicherem Code führen.
Für einige Aufgaben sind Sprachmodelle wie GPT-4 keine ideale Lösung, auch wenn sie sie lösen können. Beispiel. Eines der häufig diskutierten Themen ist beispielsweise die Fähigkeit großer Sprachmodelle, Mathematik durchzuführen. Sie wurden anhand verschiedener mathematischer Benchmarks getestet. Berichten zufolge schneidet GPT-4 bei komplexen Mathematiktests sehr gut ab.
Allerdings ist es erwähnenswert, dass große Sprachmodelle mathematische Gleichungen nicht Schritt für Schritt berechnen, wie es Menschen tun. Wenn GPT-4 die Eingabeaufforderung „1+1=" erhält, wird den Leuten die richtige Antwort gegeben. Aber hinter den Kulissen werden die Vorgänge „Hinzufügen“ und „Verschieben“ nicht ausgeführt. Es führt die gleichen Matrixoperationen wie alle anderen Eingaben durch und sagt den nächsten Token in der Sequenz voraus. Es gibt eine probabilistische Antwort auf eine deterministische Frage. Aus diesem Grund hängt die Genauigkeit von GPT-4 und anderen mathematischen großen Sprachmodellen stark vom Trainingsdatensatz ab und funktioniert auf Zufallsbasis. Man könnte sehen, dass sie bei sehr komplexen mathematischen Problemen erstaunliche Ergebnisse erzielen, bei einfachen, elementaren mathematischen Problemen jedoch scheitern.
Das bedeutet nicht, dass GPT-4 für die Mathematik nicht nützlich ist. Ein Ansatz besteht darin, Modellerweiterungstechniken zu verwenden, beispielsweise die Kombination großer Sprachmodelle mit mathematischen Lösern. Das große Sprachmodell extrahiert die Gleichungsdaten aus der Eingabeaufforderung und übergibt sie an den Löser, der das Ergebnis berechnet und zurückgibt.
Ein weiterer interessanter Anwendungsfall für GPT-4 ist die Arbeit der Khan Academy. Sie integrieren groß angelegte Sprachmodellkurse in ihre Online-Lernplattform, um als Tutoren für Lernende und Assistenten für Lehrer zu fungieren. Da dies einer der Partner war, für die OpenAI bei der Veröffentlichung von GPT-4 geworben hat, haben sie GPT-4 möglicherweise basierend auf ihren Kursinhalten verfeinert. Das Modell lässt sich auch gut in den Inhalt der Plattform integrieren, um Szenarien bereitzustellen und Fehler zu reduzieren. Es ist jedoch erwähnenswert, dass GPT-4 nicht dazu gedacht ist, mathematische Probleme zu lösen, sondern Schüler und Lehrer beim Erlernen und Lehren mathematischer Konzepte anzuleiten.
Sobald ein Anwender entschieden hat, ob GPT-4 für seine Anwendung geeignet ist, muss es aus Produktperspektive betrachtet werden. Jeder von GPT-4 generierte Token ist das Ergebnis von Hunderten Milliarden Operationen. Die erste Frage, die sich ein Benutzer stellen muss, lautet: „Benötigt meine Anwendung eine solche Berechnung?“ Selbst wenn GPT-4 eine perfekte Antwort bietet, gibt es in vielen Fällen möglicherweise eine einfachere, schnellere und kostengünstigere Lösung. Beispielsweise sind einfache Lösungen wie reguläre Ausdrücke in vielen Fällen beim Extrahieren von Informationen effektiver.
Tatsächlich führten Branchenexperten ein interessantes Gespräch mit ChatGPT, in dem sie ChatGPT fragten, was „GPT-ify“ bedeutet. ChatGPT beschreibt es als „die Technologie und Fähigkeiten von Sprachmodellen, die auf GPT-Architekturen (Generate Pretrained Transformer) wie GPT-3 oder GPT-Neo basieren und auf bestimmte Aufgaben oder Probleme angewendet werden.“ Dann wurde gefragt, ob GPT-ify verwendet werden könnte, um Leute zu verspotten, die GPT verwenden, um Dinge zu tun, die es nicht erfordern. ChatGPT antwortete folgendermaßen: „Ja, GPT-ify kann sicherlich sarkastisch oder sarkastisch verwendet werden, um anzudeuten, dass jemand GPT für eine Aufgabe oder ein Problem, für das kein so komplexes Sprachmodell erforderlich ist, überbeansprucht oder missbraucht. Wenn beispielsweise jemand ein Pre- Wenn Sie das GPT-Modell so trainieren, dass es eine einfache Einkaufsliste erstellt, könnte jemand scherzen, dass er „seine Einkaufsliste GPTifiziert“ hat.
Treffen Sie also keine Entscheidung über ein Produkt, ohne andere Optionen der GPTisierung zu prüfen. Wie alle anderen Technologien sollte GPT-4 als eines von vielen Tools in einer Produkt-Toolbox betrachtet werden. ChatGPT rät: „Der Schlüssel liegt darin, das richtige Werkzeug für den Job auszuwählen, basierend auf den spezifischen Anforderungen und Einschränkungen der aktuellen Aufgabe.“
Das obige ist der detaillierte Inhalt vonWelche Informationen müssen Sie über GPT-4-Anwendungen wissen?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!
![[Web-Frontend] Node.js-Schnellstart](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
