Kommt das Leistungsmonster nach ChatGPT? Marcus' 7 „dunkle' Vorhersagen: GPT-4 wird kein AGI bringen

Als das Jahr 2022 zu Ende geht, veröffentlichte OpenAI einen Chatbot namens ChatGPT, der im Internet schnell populär wurde.

In weniger als zwei Wochen nach dem Start haben sich mehr als eine Million Menschen für eine Online-Testversion angemeldet. Benutzer können einfach Text eingeben und erhalten sofort Zugriff auf unglaubliche Absätze von Artikeln, Geschichten und Gedichten.

Es ist so gut geschrieben, dass einige Leute es verwenden, um auf Tinder die Eröffnungszeilen für ein Date zu schreiben („Stört es Sie, wenn ich hier sitze? Die Art und Weise, wie Sie Hüftstöße machen, macht meine Beine ein wenig schwach.“)

Nicht nur das: Zum Schock von Lehrkräften auf der ganzen Welt begannen Studierende, ChatGPT zum Verfassen von Hausarbeiten zu nutzen. Andere nutzen es, um Suchmaschinen neu zu erfinden. Plötzlich diskutierte die ganze Welt über die Magie von ChatGPT.

Trotzdem sagt Marcus, wir dürfen unsere Chatbots nicht zu stark filtern.

ChatGPT scheint zwar alles zu wissen, ist aber auch fehleranfällig. In einem Interview sagte Marcus, dass ChatGPT dasselbe sei wie zuvor und das zugehörige System „immer noch unzuverlässig ist, die reale Welt immer noch nicht versteht, die psychologische Welt immer noch nicht versteht und immer noch voller Fehler ist.“

Mit anderen Worten, ChatGPT Es ist oft erfunden; vieles von dem, was da steht, ist überhaupt nicht wahr.

Unter Anleitung von Benutzern kann ChatGPT beispielsweise sagen, dass frittierte Teigstangen sehr gut für Operationen geeignet sind, weil „ihre geringe Größe eine größere Präzision und Kontrolle während der Operation ermöglicht, das Risiko von Komplikationen verringert und das Gesamtbild verbessert.“ Ergebnis der Operation."

Der Chatbot verbreitet so ernsthaften Unsinn, dass die berühmte Website Stack Overflow computergenerierte Antworten vorübergehend verboten hat.

Und die Fehler sind endlos. Obwohl ChatGPT oft auf Basis von Benutzer-Feedback angepasst wird, sind viele Internetnutzer einige Wochen nach der Veröffentlichung des Produkts immer noch sprachlos über die Reaktionen:

Ähnliche Fehler kommen häufig vor, musste auch OpenAI-CEO Sam Altman zugeben Die Realität:

ChatGPT hat immer noch viele Einschränkungen, aber es reicht aus, um die Illusion von Größe zu erzeugen.

Es ist noch zu früh, sich bei der Erledigung wichtiger Aufgaben auf ChatGPT zu verlassen. Wir müssen noch viel tun, um die Robustheit und Authentizität zu verbessern.

Kurz gesagt: Obwohl ChatGPT genauso Science-Fiction klingt wie der Computer in Star Trek, können die Leute ihm derzeit nicht völlig vertrauen.

Natürlich ist ChatGPT im Jahr 2022 ein Geschenk für KI-Liebhaber. Was ist mit 2023?

Was das Silicon Valley und die ganze Welt im Jahr 2023 mit Spannung erwarten, ist GPT-4. ​

GPT-4: Der „Lila Stern vom Himmel“ in der KI-Welt

Menschen, die GPT-4 tatsächlich ausprobiert haben, sind von diesem Produkt zutiefst beeindruckt. Einigen Gerüchten zufolge soll GPT-4 im Frühjahr 2023 erscheinen. Bis dahin wird es ChatGPT mit Sicherheit in den Schatten stellen; mehr Leute werden darüber reden.

In vielerlei Hinsicht sind die Erwartungen der Menschen an GPT-4 sehr hoch:

Nick Davidov, Gründer der Risikokapitalgesellschaft DVC, sagte: Das Aufkommen von GPT-4 wird „ und ein wirtschaftlicher Schock ähnlich der COVID-19-Epidemie.“ Die schnelle Verbreitung und Nutzung von GPT-4 könne „die Produktivität von Hunderten Millionen Wissensarbeitern rasch steigern“.

Technisch gesehen wird GPT-4 über mehr interne Parameter, mehr Prozessoren und Speicher verfügen und mit mehr Daten trainiert werden.

GPT-1 wurde mit 4,6 GB Daten trainiert und durch GPT-3 stieg die Datenmenge direkt auf 750 GB. Es ist ersichtlich, dass das Trainingsvolumen von GPT-4 noch erstaunlicher sein wird und es sogar den größten Teil des gesamten Internets erlernen wird.

OpenAI weiß, dass ein größeres Trainingsvolumen eine bessere Leistung bedeutet. Mit jeder Iteration wird GPT in seiner Leistung immer menschlicher. Für GPT-4 könnte es sich zu einem Leistungsmonster entwickeln.

Aber wird es die zuvor aufgetretenen Probleme lösen? Marcus hat hierzu noch Fragen.

Obwohl GPT-4 sicherlich so aussieht, als wäre es intelligenter als sein Vorgänger, gibt es immer noch Probleme mit seiner internen Architektur.

Marcus sagte, er vermute, dass die Leute ein Déjà-vu-Gefühl verspüren würden, wenn es um GPT-4 ging: Zuerst wurde es im gesamten Internet populär, und nach ein paar Tagen stellten die Leute fest, dass es immer noch viele Probleme gab existierte.

Nach aktuellen Informationen ist GPT-4 in der Architektur grundsätzlich mit GPT-3 identisch. Wenn ja, ist damit zu rechnen, dass einige grundlegende Probleme weiterhin ungelöst bleiben: Chatbots verfügen noch immer nicht über ein internes Modell, wie die Welt funktioniert.

Daher kann GPT-4 Dinge nicht auf einer abstrakten Ebene verstehen. Es ist vielleicht besser darin, Schülern beim Schreiben von Aufsätzen zu helfen, aber es wird die Welt immer noch nicht wirklich verstehen, und die Eigenschaften der Maschine werden immer noch zwischen den Zeilen ihrer Antworten offenbart. ​

Sieben wichtige Vorhersagen zu GPT-4

Obwohl die KI-Community voller Freude über die Ankunft von GPT-4 ist, gab Marcus sieben weniger positive Vorhersagen.

​1. GPT-4 wird wie seine Vorgänger immer noch alle möglichen dummen Fehler machen. Es kann manchmal eine bestimmte Aufgabe gut erfüllen und manchmal scheitern, aber Sie können nicht im Voraus vorhersagen, welche Situation eintreten wird.

2. GPT-4 ist immer noch unzuverlässig für physisches, psychologisches und mathematisches Denken. Es mag zwar in der Lage sein, einige Projekte zu lösen, die bisher nicht erfolgreich angegangen werden konnten, aber es wird immer noch hilflos sein, wenn es mit längeren und komplexeren Szenarien konfrontiert wird.

Wenn man beispielsweise eine medizinische Frage stellt, verweigert es entweder die Antwort oder gibt gelegentlich Unsinn von sich, der vernünftig klingt, aber gefährlich ist. Obwohl es eine große Menge an Inhalten im Internet verschlungen hat, ist es nicht vertrauenswürdig und vollständig genug, um zuverlässige medizinische Ratschläge zu geben.

3. Fließende Halluzinationen bleiben häufig und können leicht hervorgerufen werden. Allerdings sind große Sprachmodelle immer noch ein Werkzeug, mit dem sich leicht Informationen erstellen lassen, die vernünftig klingen, aber völlig falsch sind.

4. Die Ausgabe in natürlicher Sprache von GPT-4 kann nachgelagerte Programme immer noch nicht zuverlässig bedienen. Entwickler, die damit virtuelle Assistenten erstellen, werden feststellen, dass sie nicht in der Lage sind, die Benutzersprache zuverlässig der Benutzerabsicht zuzuordnen.

5. GPT-4 selbst wird keine allgemeine künstliche Intelligenz sein, die jede Aufgabe lösen kann. Ohne externe Hilfe kann es weder Metas Cicero in „Diplomatie“ besiegen noch zuverlässig ein Auto fahren, noch kann es Optimus Prime in „Transformers“ oder Rosie in „Die Jetsons“ fahren.

6. Der „Zusammenhang“ zwischen „was Menschen wollen“ und „was Maschinen tun“ ist immer noch ein kritisches und ungelöstes Problem. GPT-4 wird immer noch keine Kontrolle über seine Ausgabe haben, einige Empfehlungen werden überraschend schlecht sein und Beispiele für maskierte Voreingenommenheit werden innerhalb von Tagen oder Monaten entdeckt.

7. Wenn AGI (Künstliche Allgemeine Intelligenz) realisiert wird, werden große Sprachmodelle wie GPT-4 möglicherweise Teil der endgültigen Lösung, aber nur ein Teil davon. Eine einfache „Skalierung“, also der Aufbau eines größeren Modells, bis es das gesamte Internet einnimmt, wird sich bis zu einem gewissen Grad als nützlich erweisen. Aber allgemeine künstliche Intelligenz, die vertrauenswürdig ist und mit menschlichen Werten im Einklang steht, wird definitiv aus strukturierteren Systemen stammen. Es verfügt über mehr integriertes Wissen und beinhaltet explizite Argumentations- und Planungstools. Diese fehlen alle im aktuellen GPT-System.

Marcus glaubt, dass sich der Schwerpunkt der KI innerhalb eines Jahrzehnts, vielleicht sogar weniger, von der Skalierung großer Sprachmodelle hin zur Integration in ein breiteres Spektrum von Technologien verlagern wird.

Coole Sachen machen immer Spaß, aber das bedeutet nicht, dass sie uns zu einer glaubwürdigen allgemeinen künstlichen Intelligenz führen können.

In diesem Zusammenhang prognostiziert Marcus, dass wir in Zukunft eine neue Architektur brauchen, die explizites Wissen und Weltmodelle als Kern nutzen kann. ​

Referenz: https://garymarcus.substack.com/p/what-to-expect-when-youre-expecting

Das obige ist der detaillierte Inhalt vonKommt das Leistungsmonster nach ChatGPT? Marcus' 7 „dunkle' Vorhersagen: GPT-4 wird kein AGI bringen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!