Intelligentere KI erreichen: ReAct-Technologie, die Argumentation und Verhalten in Sprachmodelle integriert

Heute stellen wir einen Artikel „REACT: Combining Reasoning and Behavior in Language Models“ vor, der eine Zusammenarbeit zwischen Forschern von Google Research und der Princeton University ist. Sie veröffentlichten dieses Papier, während sie das Potenzial der Kombination von Argumentation und Verhalten in Sprachmodellen untersuchten. Obwohl die Argumentations- und Handlungsfähigkeiten großer Sprachmodelle (LLMs) separat untersucht wurden, ist dies das erste Mal, dass diese beiden Fähigkeiten in einem System kombiniert werden. Deshalb halte ich dieses Papier für sehr wichtig. Das ReAct-Framework ermöglicht es virtuellen Agenten, eine Vielzahl von Tools zu nutzen, wie z. B. die Verbindung zum Web und zu SQL-Datenbanken, und bietet so praktisch unbegrenzte Skalierbarkeit. Die Fähigkeit des Denkens und Handelns ist charakteristisch für die menschliche Intelligenz -orientiertes gezieltes Handeln und Überlegungen zu den nächsten Schritten sind nahtlos integriert. Diese Fähigkeit ermöglicht es uns, neue Aufgaben schnell zu erlernen, verlässliche Entscheidungen zu treffen und uns an unvorhergesehene Umstände anzupassen. Das Ziel von ReAct besteht darin, diese Synergie in Sprachmodellen zu reproduzieren und es ihnen zu ermöglichen, Inferenzschritte und aufgabenspezifische Aktionen auf verschachtelte Weise zu generieren Argumentation, Geschichte, Schritte und Aktionen. Diese Eingabeaufforderungen bestehen aus einer kleinen Anzahl kontextbezogener Beispiele, die die Denk- und Handlungsgenerierung des Modells leiten. Ein kontextbezogenes Beispiel finden Sie in der folgenden Abbildung. Diese Beispiele führen den Agenten durch einen zyklischen Prozess: eine Idee generieren, eine Aktion ausführen und dann die Ergebnisse der Aktion beobachten. Durch die Kombination von Inferenzspuren und -aktionen ermöglicht ReAct Modellen die Durchführung dynamischer Inferenzen, die Pläne auf hoher Ebene generieren und auch mit der externen Umgebung interagieren können, um zusätzliche Informationen zu sammeln Für eine Vielzahl sprachlicher Argumentations- und Entscheidungsaufgaben, einschließlich der Beantwortung von Fragen, der Überprüfung von Fakten, textbasierten Spielen und der Navigation auf Webseiten. Die Ergebnisse sind hervorragend, wobei ReAct andere hochmoderne Baselines in Bezug auf Interpretierbarkeit und Vertrauenswürdigkeit durchweg übertrifft.

Sowohl bei der Beantwortung von Fragen als auch bei der Überprüfung von Fakten nutzt ReAct die Interaktion mit einer einfachen Wikipedia-API und überwindet damit erfolgreich Der Inferenzprozess Häufige Halluzinations- und Fehlverbreitungsprobleme. Es generiert Schritte, die denen ähneln, wie Menschen die Aufgabe lösen würden, und ist einfacher zu interpretieren als Basismodelle ohne Spuren von Argumentation. Bei interaktiven Entscheidungs-Benchmarks übertrifft ReAct die Methoden des Nachahmungslernens und Verstärkungslernens deutlich, selbst wenn nur ein oder zwei kontextbezogene Beispiele vorliegen.

Obwohl die Argumentations-, Aktions- und Beobachtungsschritte miteinander verflochten sind, verbessert sich die Zuverlässigkeit und Glaubwürdigkeit von ReAct, aber auch diese Struktur schränkt die Flexibilität seiner Argumentationsschritte ein, was bei einigen Aufgaben zu höheren Argumentationsfehlerraten führt als Tipps zur Denkkette verschiedene Aufgaben. Sie fanden heraus, dass die Kombination der internen Argumentation und des externen Verhaltens von ReAct durchweg besser war als die Basiswerte, die sich allein auf Argumentation oder Handeln konzentrierten. Dies unterstreicht den Wert der Integration der beiden Prozesse für eine effektivere Entscheidungsfindung

Zukünftige Richtungen

Obwohl ReAct gute Ergebnisse erzielt hat, gibt es noch Raum für Verbesserungen. Die Forscher empfehlen, ReAct zu erweitern, um mehr Aufgaben zu trainieren und zu bearbeiten, und es mit ergänzenden Paradigmen wie Reinforcement Learning zu kombinieren. Darüber hinaus kann das Modell mithilfe von mehr mit menschlichen Anmerkungen versehenen Daten verfeinert werden, um die Leistung weiter zu verbessern Proxy-Funktionen aus der Langchain-Bibliothek. Durch die Kombination von Argumentation und Verhalten in Sprachmodellen wurden Leistungsverbesserungen bei einer Reihe von Aufgaben nachgewiesen und gleichzeitig die Interpretierbarkeit und Vertrauenswürdigkeit verbessert. Während sich die künstliche Intelligenz weiterentwickelt, wird die Integration von Argumentation und Verhalten eine Schlüsselrolle bei der Schaffung leistungsfähigerer und anpassungsfähigerer künstlicher Intelligenzsysteme spielen.

Bitte geben Sie einen Link zum Papier an:

Das obige ist der detaillierte Inhalt vonIntelligentere KI erreichen: ReAct-Technologie, die Argumentation und Verhalten in Sprachmodelle integriert. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!