Kuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!

Können Modelle der Größe 7B auch mit KI-Agenten spielen? Kürzlich hat Kuaishou Open Source „KwaiAgents“ zum Thema Skifahren am Wochenende bereitgestellt. Es wird Ihnen nicht nur dabei helfen, einen Veranstaltungsort zu finden, sondern auch das Wetter für diesen Tag zu berücksichtigen.

Wie wir alle wissen, beherrschen große Sprachmodelle (LLM) eine große Menge an Wissen durch die Modellierung von Sprache und verfügen über bestimmte kognitive Fähigkeiten und Argumentationsfähigkeiten. Allerdings erzeugt derzeit selbst das leistungsstärkste GPT-4 bei alleiniger Verwendung falsche Inhalte und kann nicht in Echtzeit mit der Welt interagieren. KI-Agenten sind eine Möglichkeit, dieses Problem zu lösen. Durch die Stimulierung der Fähigkeit großer Modelle, Aufgaben zu planen, zu reflektieren und Tools aufzurufen, können große Modelle reale Tools verwenden, um die Genauigkeit generierter Inhalte zu verbessern und sogar komplexe Probleme zu lösen Probleme. Diesmal ermöglichen die von Kuaishou und dem Harbin Institute of Technology gemeinsam entwickelten „KwaiAgents“ dem „kleinen“ großen Modell von 7B/13B, die Wirkung von GPT-3.5 zu übertreffen, und diese Systeme, Modelle, Daten und Auswertungen sind alle Open Source!

• Technischer Bericht: https://arxiv.org/abs/2312.04889
• Projekthomepage: https://github.com/ KwaiK EG/KwaiAgents

Folgende Inhalte finden Sie auf der Github-Homepage von „KwaiAgents“:

1. System (KAgentSys-Lite): ein leichtes KI-Agentensystem, das mit sachlichen und zeitgemäßen Toolsets ausgestattet ist;
2. Modell (KAgentLMs): Nach dem Meta-Agent-Tuning eine Reihe großer Modelle mit gemeinsamen Fähigkeiten von Agenten und ihren Trainingsdaten .

System

Zu den Hauptkomponenten des KAgentSys-Systems gehören ein kognitiver Kern, ein Speichermechanismus und eine Werkzeugbibliothek, die auf großen Modellen basiert, um eine iterative Automatisierung zu erreichen.

Speichermechanismus: einschließlich The Drei Arten von Speicher, Wissensdatenbank, Dialog und Aufgabenverlauf, basieren auf dem Abrufrahmen von Hybrid-Vektorabruf, Schlüsselwortabruf und anderen Technologien, um die erforderlichen Informationen in jedem geplanten Pfad abzurufen.

1. Toolset: Enthält ein faktenerweitertes Toolset, das Wissen aus mehreren Quellen wie Webseiten, Textenzyklopädien und Videoenzyklopädien zusammenführen kann, einschließlich Kalendern, Feiertagen, Zeitunterschieden, Wetter und anderen Gemeinsame Aktualität Erweitertes Toolset.
2. Automatisierte Schleife: In einer Dialogrunde erhält der Benutzer eine Frage, eine optionale Wissensdatenbank und zusätzliche Zeichen zur Eingabe als Ganzes. Das System aktualisiert und ruft zunächst den Speicher ab und ruft dann das große Modell auf Wenn das Tool aufgerufen werden muss, wird es in die Zusammenfassungsphase eintreten. Das große Modell synthetisiert die erwarteten Informationen.
3. Einige Funktionen von KAgentSys werden schrittweise aktualisiert und geöffnet. Dies ist der Inhalt dieses Open-Source-Modells Die vom Team vorgeschlagene Meta-Agent Tuning (MAT)-Methode verbessert die Vielseitigkeit großer Modelle in Bezug auf die Agentenfunktionen und verbessert den Effekt durch die Einführung weiterer Agenten-Eingabeaufforderungsvorlagen in die Trainingsdaten.

Meta-Agent Tuning (MAT) ist in zwei Phasen unterteilt:

1. Template-Generierungsphase: Durch das Entwerfen von Meta-Agent wird für einen bestimmten Problemsatz eine instanziierte Agent-Prompt-Vorlage (das Bild rechts ist ein Beispiel) generiert und in derselben experimentellen Umgebung Kandidatenergebnisse generiert, die von der Vorlage erzeugt werden , und die hochzuverlässigen Ergebnisse, die von Open-Source-Vorlagen (wie ReAct, AutoGPT usw.) erzeugt werden, werden mithilfe des Bewertungsmodells verglichen und bewertet, um hochwertige Agent Prompt-Vorlagenbibliotheken herauszufiltern. Durch die Einführung dieser vielfältigen Vorlagen kann die Abhängigkeit von Vorlagen bei der Feinabstimmung des Modells deutlich reduziert werden und die Fähigkeiten wichtigerer Agenten bei der Aufgabenplanung, Werkzeugnutzung, Reflexion usw. können verfeinert werden, wodurch die Generalisierung und Effektivität des Modells verbessert wird .
2. Instruktions-Feinabstimmungsphase: Basierend auf Zehntausenden von Vorlagen wurden mehr als 200.000 Feinabstimmungsdaten für Agent-Tuning-Anweisungen erstellt. Das Team hat einige beliebte Open-Source-Modelle wie Qwen-7B, Baichuan2-13B usw. für die Verwendung und Referenz für jedermann optimiert, und weitere beliebte Modelle werden in Zukunft veröffentlicht.

Evaluation

KAgentBench hat durch Tausende von manuell verfeinerten annotierten Daten eine sofort einsatzbereite Nutzung erreicht, sodass jeder mit einer Befehlszeile die verschiedenen Aspekte der Agentenfunktionen eines großen Modells bewerten kann verschiedene Vorlagen.

In KAgentBench führen wir, wie in der Abbildung oben gezeigt, eine Eingabekonstruktion für verschiedene Arten von Fähigkeiten durch. Zu jeder Abfrage gehören mehrere Vorlagen und mehrere echte, von Menschen bearbeitete Antworten. Der Zweck besteht darin, die Genauigkeit und Verallgemeinerung umfassend zu bewerten. Nach der MAT-Optimierung zeigt die folgende Tabelle die Verbesserung des 7B-13B-Modells in verschiedenen Funktionen und übertrifft die Wirkung von GPT-3.5 und zeitkritische Fragen werden mit Anmerkungen versehen, wie zum Beispiel „Wie alt ist Andy Lau dieses Jahr?“ Die Ergebnisse zeigen, dass das Modell nach dem KAgentSys-System und MAT seit einiger Zeit erheblich verbessert wurde (die Richtigkeit wird in Prozent ausgedrückt und die durchschnittliche Punktzahl auf einer 5-Punkte-Skala steht in Klammern). -Tail-Probleme und beliebte Probleme: Normalerweise sind die Ergebnisse, die ausschließlich auf Websuchen basieren, nicht ideal. Wenn Sie beispielsweise eine lange Frage wie „Wie viele Tage ist Antonella älter als Messi?“ stellen, werden in den Suchergebnissen normalerweise Gerüchte über sie angezeigt, ohne dass wichtige Informationen bereitgestellt werden. KAgentSys kann diese Frage genau beantworten, indem es das Enzyklopädie-Suchtool aufruft, um das genaue Geburtsdatum zu ermitteln, und dann das Zeitdifferenz-Tool verwendet, um den Altersunterschied zu berechnen. Das Team sagte, dass AI Agents ein sehr vielversprechender Weg sei. Auch in Zukunft werden wir Kerntechnologien weiter ausbauen und der gesamten Community kontinuierlich neue Vitalität verleihen. Gleichzeitig werden wir auch aktiv die Kombination von Agententechnologie und Kuaishou-Geschäft erkunden und versuchen, weitere interessante und wertvolle innovative Anwendungen zu implementieren

Das obige ist der detaillierte Inhalt vonKuaishou hat das Agentensystem, die Modelle und die Daten als Open Source bereitgestellt!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!