Yang Diyis neue Arbeit: Die Gesellschaft kann gerettet werden. KI-große Modelle chatten eins zu eins und helfen Menschen, E-Menschen zu werden.-KI-php.cn

Yang Diyis neue Arbeit: Die Gesellschaft kann gerettet werden. KI-große Modelle chatten eins zu eins und helfen Menschen, E-Menschen zu werden.

WBOY

Freigeben： 2024-04-09 16:49:01

nach vorne

1336 Leute haben es durchsucht

Bei sozialen Aktivitäten können große Sprachmodelle sowohl Ihre Partner als auch Ihre Mentoren sein.

Um bei menschlichen sozialen Aktivitäten effektiver mit anderen in Beruf und Leben kommunizieren zu können, sind bestimmte soziale Fähigkeiten erforderlich, beispielsweise die Konfliktlösung.

Allerdings sind Umgebungen zum Üben sozialer Fähigkeiten für die meisten Menschen oft unerreichbar. Die Schulung dieser Fähigkeiten, insbesondere durch Experten, ist oft zeitaufwändig, kostspielig und nur begrenzt verfügbar. Bestehende Übungs- und Feedbackmechanismen sind stark auf die Aufsicht von Experten angewiesen, was eine Skalierung der Schulung erschwert. Darüber hinaus mangelt es an professionell ausgebildeten Trainern, und die meisten Trainer, die individuelles Feedback geben können, können nicht einer großen Zahl bedürftiger Menschen helfen.

Kürzlich glauben Forscher in dem von Stanford-Assistenzprofessor Yang Diyi mitverfassten Artikel „Social Skill Training with Large Language Models“, dass mit Hilfe großer Sprachmodelle das Training sozialer Fähigkeiten einfacher und effizienter gestaltet werden kann . Sicherer, ansprechender und maßgeschneidertes Feedback in realen, virtuellen Übungsräumen.

Yang Diyis neue Arbeit: Die Gesellschaft kann gerettet werden. KI-große Modelle chatten eins zu eins und helfen Menschen, E-Menschen zu werden.

Papieradresse: https://arxiv.org/pdf/2404.04204.pdf

Konkret schlugen die Forscher die folgenden zwei Trainingsrahmen für soziale Kompetenzen vor.

Das erste Trainingsframework ist AI Partner, das eine skalierbare Lösung für erfahrungsorientiertes Training durch Simulationsübungen bietet. Frühere Untersuchungen haben gezeigt, dass menschliches Rollenspiel Kommunikations-, Kollaborations- und Führungsfähigkeiten effektiv vermitteln kann. Die Simulation ermöglicht es den Lernenden, weniger Risiken und Opportunitätskosten einzugehen als bei der Ausbildung am Arbeitsplatz. Und durch Simulation wird AI Partner sozioökonomische Hürden für den Eintritt in die Berufswelt reduzieren.

Der zweite ergänzende Schulungsrahmen ist AI Mentor, der personalisiertes Feedback basierend auf Fachwissen und Faktenwissen liefert.

Beide Trainingsrahmen (gemeinsam bekannt als APAM) kombinieren erfahrungsbasiertes Lernen mit Praxiserfahrung und individuellem Feedback. Forscher fordern interdisziplinäre Innovationen, um die weitreichenden Auswirkungen von APAM anzugehen.

Yang Diyi, der Autor des Papiers, sagte: „Das Erlernen sozialer Kompetenzen ist für die meisten Menschen unerreichbar. Wie können wir das Training sozialer Kompetenzen einfacher machen? Auf dieser Grundlage haben wir APAM ins Leben gerufen, das LLM nutzt.“ bietet Training sozialer Kompetenzen durch praktische Übungen und maßgeschneidertes Feedback! AI Mentor kann in kritischen Momenten der Simulation wissensbasiertes Feedback geben. beide als APAM bezeichnet), und diese beiden sind von entscheidender Bedeutung. Wenn Benutzer eine neue soziale Fähigkeit erlernen möchten, kann AI Partner ihnen dabei helfen, relevante Szenarien durch simulierte Gespräche zu üben. AI Mentor kann in kritischen Momenten der Simulation wissensbasiertes Feedback geben.

Yang Diyis neue Arbeit: Die Gesellschaft kann gerettet werden. KI-große Modelle chatten eins zu eins und helfen Menschen, E-Menschen zu werden.

Der Aufbau und Einsatz von KI-Partnern ist jedoch nicht einfach. Beispielsweise ist es schwierig, den Stil, das Verhalten und die emotionalen Eigenschaften der simulierten Charaktere konsistent zu halten. Die Entwicklung von AI Mentor hängt stark von Faktoren wie Fachkompetenz, Situationsbewusstsein und Feedbackeffizienz ab.

Um die oben genannten Probleme zu lösen, schlugen Forscher eine allgemeine Methode zum Training sozialer Kompetenzen durch LLM vor, die in vier Schritten abgeschlossen wird:

Verstehen, wie Problemkompetenzen (z. B. Konflikte) gelöst werden können
Entwerfen Sie einen KI-Partner, um Gespräche zu simulieren und es den Lernenden (d. h. Benutzern) zu ermöglichen, den Zielprozess und die Praxis kennenzulernen.
Integrieren Sie diese beiden Agenten in die Simulationsumgebung integrieren, damit Benutzer sie erlernen können.

APAM kann die Fähigkeiten von Lernenden in vielen Bereichen verbessern. Tabelle 1 listet einige Anwendungsszenarien auf, z. B. Zuhören, Beratung zur psychischen Gesundheit usw. Das APAM-Framework ist jedoch nicht auf diese typischen Beispiele beschränkt, und in Abschnitt 6 des Dokuments finden Sie weitere Einführungen.

Obwohl LLMs großes Potenzial als Trainingsinstrumente für soziale Kompetenzen haben, weil sie kohärente und natürliche Texte generieren können. Allerdings geht diese Flexibilität oft mit einer eingeschränkten Kontrollierbarkeit einher.

Yang Diyis neue Arbeit: Die Gesellschaft kann gerettet werden. KI-große Modelle chatten eins zu eins und helfen Menschen, E-Menschen zu werden.

Aus Sicherheitsgründen sieht das APAM-Framework eine Reihe von Maßnahmen für die Anwendung von KI vor. Sie unterteilen den Nutzungsprozess in ein Kontinuum: KI-Partner-Kontinuum und KI-Mentor-Kontinuum. Jedes Kontinuum besteht aus drei Modellen (wie in Abbildung 1 dargestellt).

Bewertungsergebnisse

Die Bewertung von KI-Partnern und KI-Mentoren ist eine große Herausforderung, und APAM-basierte Tools erfordern komplexe Computersysteme und Interaktionen mit Benutzern mit unterschiedlichen Bedürfnissen und Hintergründen.

Um diese Trainingstools als Feld zu entwickeln, müssen Bewertungsmaßnahmen über traditionelle Metriken in der Verarbeitung natürlicher Sprache hinausgehen und stattdessen Lösungen aus mehreren verwandten Bereichen und Interessengruppen nutzen. Die Einbeziehung einer multidisziplinären Perspektive wird dazu beitragen, die empirische Leistung, die Benutzerfreundlichkeit aus Benutzerperspektive und die langfristigen Auswirkungen solcher Systeme auf Benutzer und Communities zu bewerten.

Derzeit konzentriert sich die Forschung zur Textgenerierung hauptsächlich auf die intrinsische Bewertung, also die Bewertung der Qualität der Ausgabe durch vordefinierte Regeln oder Interaktionen.

In der folgenden Tabelle 2 werden Forscher hauptsächlich in vollautomatische Bewertung und benutzergesteuerte Bewertung unterteilt. Referenzbasierte Metriken wie Perplexität oder Kullback-Leibler-Divergenz werden häufig für die automatisierte Systemqualitätsbewertung verwendet, da sie sowohl einfach sind als auch eine umfassende Definition des gewünschten Verhaltens durch Demonstration ermöglichen.

Tabelle 2 enthält Einzelheiten zu den intrinsischen und extrinsischen Bewertungsverfahren, die in früheren Arbeiten auf APAM-Systeme angewendet wurden. Derzeit befassen sich Praktiker der Verarbeitung natürlicher Sprache hauptsächlich mit der intrinsischen Bewertung von Systemen. In diesem Artikel betonen Forscher, wie wichtig es ist, etablierte Messgrößen für Bildungsergebnisse zur Bewertung von APAM-Systemen zu verwenden.

Weitere Einzelheiten finden Sie im Originalpapier.

Das obige ist der detaillierte Inhalt vonYang Diyis neue Arbeit: Die Gesellschaft kann gerettet werden. KI-große Modelle chatten eins zu eins und helfen Menschen, E-Menschen zu werden.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!