Die Nachteile von ChatGPT für Konversations-KI-Systeme in Produktionsqualität

​Übersetzer |.Bugatti

Rezensent |.ChatGP hat mit seinen detaillierten und menschenähnlichen schriftlichen Antworten weltweite Aufmerksamkeit erregt und Fragen darüber aufgeworfen, wie Menschen mit dieser lebhaften Diskussion über künstliche Intelligenz (KI) interagieren sollten. In vielerlei Hinsicht ist ChatGPT eine aktualisierte Version seines Vorgängers GPT-3.5, aber es ist immer noch anfällig für Manipulationen. Experten sagen, dass KI-Entwickler für produktionstaugliche Anwendungen darüber nachdenken könnten, ChatGPT mit anderen Tools zu kombinieren, um eine Komplettlösung zu erhalten.

Zuallererst kam Generative Pre-training Transformer (GPT) 3.5 früher heraus als ChatGPT, und sein neuronales Netzwerk verfügt über mehr Schichten als ChatGPT. GPT-3.5 wurde als universelles Sprachmodell entwickelt, das viele Aufgaben bewältigen kann, darunter das Übersetzen von Sprachen, das Zusammenfassen von Text und das Beantworten von Fragen. OpenAI stellt eine Reihe von API-Schnittstellen für GPT-3.5 bereit, die Entwicklern eine effizientere Möglichkeit bieten, auf seine Funktionalität zuzugreifen.

ChatGPT basiert auf GPT-3.5 und wurde speziell als Chatbot entwickelt („Conversational Agent“ ist der von der Branche bevorzugte Begriff). Ein limitierender Faktor ist, dass ChatGPT nur über eine Textschnittstelle und keine API verfügt. ChatGPT ist auf eine große Menge an Konversationstexten trainiert und führt Konversationen besser durch als GPT-3.5 und andere generative Modelle. Antworten werden schneller generiert als GPT-3.5 und ihre Antworten sind genauer.

Allerdings sind beide Modelle oft erfunden oder, wie die Branche es nennt, „halluzinierend“. Die Halluzinationsrate von ChatGPT liegt zwischen 15 % und 21 %. Gleichzeitig stieg die Halluzinationsrate von GPT-3.5 von rund 20 % auf 41 %, sodass sich ChatGPT in dieser Hinsicht verbessert hat.

Das Silicon Valley-Unternehmen Moveworks nutzt Sprachmodelle und andere Technologien des maschinellen Lernens auf seiner KI-Konversationsplattform, die von Unternehmen in vielen Branchen verwendet wird. Jiang Chen, der Gründer des Unternehmens und Vizepräsident für maschinelles Lernen, sagte, dass ChatGPT, obwohl es oft erfunden sei (ein häufiges Problem bei allen Sprachmodellen), eine wesentliche Verbesserung gegenüber früheren KI-Modellen darstellt.

Chen sagte: „ChatGPT hat die Leute wirklich beeindruckt und überrascht.“ Chen war ein ehemaliger Google-Ingenieur, der sich auf die Entwicklung der gleichnamigen Suchmaschine des Technologieriesen spezialisiert hatte. „Seine Argumentationsfähigkeiten könnten viele Praktiker des maschinellen Lernens überraschen.“

Moveworks verwendet eine Vielzahl von Sprachmodellen und anderen Techniken, um maßgeschneiderte KI-Systeme für Kunden zu erstellen. Es ist ein großer Nutzer von BERT, dem vor einigen Jahren von Google als Open Source bereitgestellten Sprachmodell. Das Unternehmen nutzt GPT-3.5 und hat bereits mit der Nutzung von ChatGPT begonnen.

Wenn es jedoch um den Aufbau produktionstauglicher Konversations-KI-Systeme geht, hat ChatGPT laut Chen seine Grenzen. Beim Aufbau eines benutzerdefinierten Konversations-KI-Systems mit dieser Art von Technologie sind verschiedene Faktoren abzuwägen. Es ist wichtig zu wissen, wo die Grenze gezogen wird, um ein System zu entwickeln, das keine falschen Antworten liefert, nicht übermäßig voreingenommen ist und dies auch tut Lassen Sie die Leute nicht zu lange warten.

Chen sagte, dass ChatGPT besser als BERT darin sei, aussagekräftige Antworten auf Fragen zu generieren. Insbesondere verfügt ChatGPT über leistungsfähigere Argumentationsfunktionen als BERT, das darauf ausgelegt ist, das nächste Wort in einem Satz vorherzusagen.

Während ChatGPT und GPT-3.5 überzeugende Antworten auf Fragen liefern können, hindert ihre geschlossene End-to-End-Natur Ingenieure wie Chen daran, sie zu schulen. Dies stellt auch ein Hindernis für die Anpassung von Korpora an branchenspezifische Reaktionen dar (Einzelhändler und Hersteller verwenden andere Wörter als Anwaltskanzleien und Regierungen). Diese geschlossene Natur mache es auch schwieriger, Vorurteile abzubauen, sagte er.

BERT ist klein genug, um von einem Unternehmen wie Moveworks gehostet zu werden. Das Unternehmen baute eine Datenpipeline auf, die unternehmensspezifische Daten sammelt und diese zur Schulung in das BERT-Modell einspeist. Diese Arbeit ermöglicht es Moveworks, ein höheres Maß an Kontrolle über das endgültige Konversations-KI-Produkt auszuüben, was in geschlossenen Systemen wie GPT-3.5 und ChatGPT nicht möglich ist.

Chen sagte: „Unser Stapel für maschinelles Lernen ist geschichtet. Wir verwenden BERT, aber wir verwenden auch andere Algorithmen für maschinelles Lernen, wodurch wir kundenspezifische Logik und kundenspezifische Daten integrieren können.“

Chen Obwohl es viele OpenAI-Modelle gibt Größer und auf viel größeren Korpora trainiert, gibt es keine Möglichkeit zu wissen, ob sie für einen bestimmten Kunden geeignet sind.

Er sagte: „Das (ChatGPT-)Modell ist darauf vorbereitet, das gesamte eingespeiste Wissen zu kodieren. Es ist nicht darauf ausgelegt, eine bestimmte Aufgabe selbst auszuführen. Der Grund dafür, dass es ein schnelles Wachstum erzielen kann, liegt in der Architektur selbst.“ Es sind eigentlich ganz einfache Schichten, also kann man sagen, dass sie aufgrund der Architektur zusammenpassen. Man weiß, dass sie lernen können, aber man weiß nicht, welche Informationen wo kodiert sind Welche Neuronenschichten die spezifischen Informationen kodieren, die Sie ableiten möchten, es handelt sich also eher um eine Blackbox.“

Chen glaubt, dass ChatGPT möglicherweise auf dem Vormarsch ist, sein Nutzen als produktionstaugliches Tool für Konversations-KI jedoch möglicherweise etwas übertrieben ist. Ein besserer Ansatz besteht darin, die Stärken mehrerer Modelle zu nutzen, anstatt sich vollständig auf ein bestimmtes Modell festzulegen, um sich besser an die Leistung, Genauigkeit, Bias-Erwartungen des Kunden und die zugrunde liegenden Fähigkeiten der Technologie anzupassen.

Er sagte: „Unsere Strategie besteht darin, eine Reihe verschiedener Modelle an verschiedenen Orten zu verwenden. Sie können das große Modell verwenden, um das kleine Modell zu unterrichten, und dann ist das kleine Modell viel schneller. Wenn Sie beispielsweise möchten.“ Um die Segmentsuche durchzuführen, sollten Sie ... eine Art BERT-Modell verwenden und es dann als eine Art Vektorsuchmaschine ausführen. ChatGPT ist für diesen Zweck zu groß. Obwohl ChatGPT in der Praxis möglicherweise nur von begrenztem Nutzen ist Anwendungsumgebungen im Moment. Das heißt aber nicht, dass es nicht wichtig ist. Chen sagte, dass eine der nachhaltigen Auswirkungen von ChatGPT darin bestehen könnte, die Aufmerksamkeit von Praktikern zu erregen und Menschen zu inspirieren, in Bezug auf die Wirksamkeit der Konversations-KI-Technologie in Zukunft neue Maßstäbe zu setzen.

Er sagte: „Ich denke, es öffnet ein Feld. Wenn wir in Zukunft die Blackbox öffnen, wird es meiner Meinung nach weitere interessante Möglichkeiten und Anwendungen geben. Das ist es, worüber wir uns freuen und daran arbeiten wir.“ Bereich.“

Das obige ist der detaillierte Inhalt vonDie Nachteile von ChatGPT für Konversations-KI-Systeme in Produktionsqualität. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!