Mit ModelScope-Agent können Einsteiger auch exklusive Agenten erstellen, inklusive Tutorials auf Nanny-Niveau

ModelScope-Agent bietet ein universelles und anpassbares Agenten-Framework, mit dem Benutzer ihre eigenen Agenten erstellen können. Das Framework basiert auf Open-Source-LLMs (Large Language Models) als Kern und bietet eine benutzerfreundliche Systembibliothek mit den folgenden Funktionen:

• Anpassbares und voll funktionsfähiges Framework: Bietet anpassbare Engine Das Design deckt Funktionen wie Datenerfassung, Werkzeugabruf, Werkzeugregistrierung, Speicherverwaltung, individuelles Modelltraining und praktische Anwendungen ab und kann zur schnellen Implementierung von Anwendungen in tatsächliche Szenarien verwendet werden.
• Open-Source-LLMs als Kernkomponenten: unterstützt das Modelltraining auf mehreren Open-Source-LLMs in der ModelScope-Community und hat den unterstützenden chinesischen und englischen Tool-Anweisungsdatensatz MSAgent-Bench als Open-Source-Version bereitgestellt, der zur Verbesserung verwendet wird Open-Source-Großmodelle wie die Planungs- und Planungsfunktionen des Agent Hub.
• Vielfältige und umfassende API, die den API-Abruf unterstützt: Erzielen Sie eine nahtlose Integration mit Modell-APIs und APIs für allgemeine Funktionen auf einheitliche Weise und stellen Sie standardmäßig Open-Source-API-Abruflösungen bereit.

• Papierlink: https://arxiv.org/abs/2309.00986
• Codelink: https://github.com/modelscope/modelscope-agent
• ModelScope-Erlebnisadresse : https://modelscope.cn/studios/damo/ModelScopeGPT/summary

Fähigkeitsanzeige

Im Folgenden werden zunächst einige Funktionen von ModelScopeGPT (Magic GPT) gezeigt, die basierend auf ModelScope-Agent implementiert wurden:

Was neu geschrieben werden muss, ist: 1. In einem einstufigen Tool-Aufruf muss der Agent das entsprechende Tool auswählen und eine Anfrage generieren und dann die Ergebnisse basierend auf den Ausführungsergebnissen an den Benutzer zurücksenden

2. Bei einem mehrstufigen Tool-Aufruf muss der Agent mehrere Tools planen, planen, ausführen und beantworten.

3 die Parameter, die aus historischen Gesprächen an das Tool übergeben werden müssen.

Eine Community-Wissens-Q&A-Plattform basierend auf Retrieval-Tools

Einführung in das Framework

Was ist das Designprinzip des ModelScope-Agent-Frameworks?

ModelScope-Agent ist ein allgemeines, anpassbares Agent-Framework für die praktische Anwendungsentwicklung. Es basiert auf Open-Source-LLMs (Large Language Models) als Kern und umfasst Module wie Speichersteuerung und Tool-Nutzung. Das Open-Source-LLM ist hauptsächlich für die Aufgabenplanung, -planung und -antwortgenerierung verantwortlich. Das Speichersteuerungsmodul umfasst hauptsächlich den Wissensabruf und die Prompt-Wort-Verwaltung. Die ModelScope-Agent-Systemarchitektur ist wie folgt:

Wie das ModelScope-Agent-Framework ausgeführt wird

Das Arbeitsprinzip von ModelScope-Agent besteht darin, die Ziele in kleinere Aufgaben aufzuteilen und diese dann auszuführen sie eins nach dem anderen. Artikel abgeschlossen. Wenn ein Benutzer beispielsweise anfordert: „Schreiben Sie eine Kurzgeschichte, lesen Sie sie mit weiblicher Stimme und fügen Sie gleichzeitig ein Video hinzu“, zeigt ModelScope-Agent den gesamten Aufgabenplanungsprozess an und ruft zunächst relevante Sprachsynthesetools ab Tool-Suche, und dann führt das Open-Source-LLM die Planung und Planung durch, generiert zuerst eine Geschichte, ruft dann das entsprechende Sprachgenerierungsmodell auf, generiert die Rede und liest sie mit weiblicher Stimme, zeigt sie dem Benutzer an und ruft sie schließlich auf Das Videogenerierungsmodell zum Generieren eines Videos basierend auf dem generierten Story-Inhalt erfordert möglicherweise keine Benutzerkonfiguration. Die aufgerufenen Tools verbessern die Benutzerfreundlichkeit erheblich.

Open-Source-Trainingsframework für große Modelle: Brandneue Trainingsmethoden, Daten und Modelle Open Source

Zusätzlich zum ModelScope-Agent-Framework schlug das Forschungsteam auch eine neue Trainingsmethode zur Feinabstimmung von Werkzeuganweisungen vor: Weighted LM, die die Fähigkeit zum Aufrufen von Open-Source-Werkzeuganweisungen für große Modelle verbessert, indem der Verlust einiger vom Werkzeug aufgerufener Token gewichtet wird Anweisungen.

Das Forschungsteam veröffentlichte außerdem einen hochwertigen chinesischen und englischen Datensatz namens MSAgent-Bench, der 600.000 Proben enthält und die Möglichkeit bietet, mehrere Runden mehrstufiger Werkzeuganweisungen aufzurufen. Basierend auf diesem Datensatz hat das Forschungsteam eine neue Trainingsmethode zur Optimierung des Qwen-7B-Modells übernommen und ein Modell namens MSAgent-Qwen-7B erhalten. Relevante Datensätze und Modelle wurden öffentlich auf der Open-Source-Plattform veröffentlicht

• MSAgent-Bench: https://modelscope.cn/datasets/damo/MSAgent-Bench/summary
• MSAgent -Qwen-7B: https://modelscope.cn/models/damo/MSAgent-Qwen-7B/summary

Neu geschriebener Inhalt: Integrierte Werkzeugliste

Aktueller ModelScope-Agent Das war es ist standardmäßig mit vielen KI-Modellen wie Verarbeitung natürlicher Sprache, Sprache, Vision und Multimodalität verbunden und hat auch standardmäßig Open-Source-Lösungen wie Wissensabruf und API-Abruf integriert.

ModelScope-Agent-Praxis

ModelScope-Agent Github bietet auch eine Übungs-Demoseite für Kindermädchen, die es Anfängern ermöglicht, ihre eigenen Agenten zu erstellen.

Bitte laden Sie das Demo-Notebook herunter: https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_qwen_agent.ipynb

1. Rufen Sie zunächst den ModelScope-Agent-Code ab und installieren Sie die zugehörigen Abhängigkeiten

2. Konfigurationsdateien müssen konfiguriert werden, einschließlich ModelScope-Token und Build-API-Tool-Abruf-Engine

3. Zentraler großer Modellstart

4 Bau und Verwendung, Abhängigkeiten. Zuvor erstellte große Modelle, Werkzeuglisten, Werkzeugabruf- und Speichermodule Codeebene Fügen Sie eine neue Datei mit dem Namen custom_tool.py hinzu. Konfigurieren Sie in dieser Datei die erforderliche Beschreibung, den Namen und die Parameter der API. Gleichzeitig werden zwei Optionen für die Aufrufmethode hinzugefügt: local_call (lokaler Anruf) und remote_call (Fernanruf). im vorherigen Kapitel, 3

3. Konstruieren Sie die neu registrierten Werkzeuge in einer Liste und fügen Sie sie dem Konstruktionsprozess des Agenten hinzu

4. Verwenden Sie die Methode agen.run() und geben Sie die Abfrage ein Testen Sie das Tool. Ob die entsprechende API erfolgreich aufgerufen werden kann

5. Der Agent ruft automatisch die entsprechende API auf und gibt das Ausführungsergebnis an das Hauptmodell zurück, und das Hauptmodell gibt eine Antwort zurück.

Noch eine Sache: Entwickler können sich auf das oben Gesagte beziehen Tutorial zum einfachen Erstellen eines eigenen Agenten, ModelScope-Agent stützt sich auf die Moda-Community. In Zukunft wird es sich auch an weitere neue Open-Source-Großmodelle anpassen und weitere auf ModelScope-Agent entwickelte Anwendungen wie Kundendienstagenten starten. Persönlicher Assistent-Agent, Story-Agent, Motion-Agent, Multi-Agent (multimodaler Agent) und so weiter.

Das obige ist der detaillierte Inhalt vonMit ModelScope-Agent können Einsteiger auch exklusive Agenten erstellen, inklusive Tutorials auf Nanny-Niveau. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!