Die große Modellplattform von Baidu Intelligent Cloud Qianfan wurde erneut aktualisiert: 5 große Modelle und 55 neue Werkzeugkomponenten wurden veröffentlicht!

Bedient 80.000 Unternehmensbenutzer, hat Benutzern bei der Feinabstimmung von 13.000 großen Modellen geholfen und Benutzern bei der Entwicklung von 160.000 großen Modellanwendungen geholfen. Seit Dezember 2023 sind die täglichen API-Aufrufe der Baidu Smart Cloud Qianfan Large Model Platform von Monat zu Monat gestiegen . 97%... Vom „Pionier“ der inländischen Großmodellplattform vor einem Jahr bis zur heutigen Großmodell-„Superfabrik“ nimmt die Großmodellplattform Baidu Intelligent Cloud Qianfan fest eine führende Position auf dem inländischen Großmodellmarkt ein, aber Bend Die Schritte hörten nicht auf. ? Die Baidu Intelligent Cloud Qianfan Large Model Industry Innovation Base fördert den Aufschwung regionaler Industrien große Modelle, 2 Das große Modell der vertikalen Szene wurde neu veröffentlicht

(Baidu Intelligent Cloud Qianfan Large Model Industry (Beijing) Innovation Base hat mit dem Bau begonnen)

Während der Veranstaltung sagte Cao Shihui, Mitglied der Shijingshan District Government Party Group und stellvertretender Distriktgouverneur, und das Zhongguancun Shijingshan Park Management Committee Cui Mingming, stellvertretender Direktor des Verbandes, Xie Guangjun, Baidu-Vizepräsident, und Shi Qinghua, Baidu-Vizepräsident, eröffneten gemeinsam die Eröffnungszeremonie der ersten Baidu Intelligent Cloud Ganfan Large Model Industry (Peking) des Landes. Innovationsbasis.

Die Innovationsbasis setzt sich dafür ein, die tiefe Integration von Großmodelltechnologie und industrieller Innovation zu fördern. Die beiden Parteien werden sich auf die Verbesserung der Bereitstellung von Rechenleistung, die Optimierung von Modellalgorithmen, die Förderung der Datenoffenheit und die Erstellung von Demonstrationsszenarien konzentrieren. Durch die Vertiefung der Talenteinführung und -ausbildung arbeiten Regierungen und Unternehmen zusammen, um ein neues Hochland für die Branche der künstlichen Intelligenz zu schaffen. Der stellvertretende Bezirksgouverneur Cao Shihui sagte, dass der Bezirk Shijingshan Hand in Hand mit Baidu zusammenarbeiten werde, um sich auf die Forschung und Entwicklung und innovative Anwendung von künstlicher Intelligenz und Großmodelltechnologie zu konzentrieren, das industrielle KI-Ökosystem aufzubauen und zu verbessern und die regionale digitale Transformation zu unterstützen und industrielle intelligente Modernisierung und bieten Unterstützung für neue Qualitätsproduktivität. Anbau und Entwicklung sind von steigender Dynamik geprägt.

(Xie Guangjun, Vizepräsident von Baidu)

Im Jahr 2023 werden große Models weltweit ein explosives Wachstum verzeichnen, und in China beginnt der „Kampf der 100 Models“ mit unzähligen großen Models Technologieunternehmen konzentrieren sich auf die „Ontologie“ großer Modelle mit wissenschaftlichen Forschungsinstituten, verrückter „Involution“.

Xie Guangjun, Vizepräsident von Baidu, sagte, dass sich die Großmodelltechnologie im vergangenen Jahr rasant weiterentwickelt habe und dass 2024 mit ihrer schrittweisen Einführung in verschiedenen Branchen das erste Jahr der Explosion inländischer Großmodelle sein werde Industrieanwendungen. Als Reaktion auf die vier großen Herausforderungen, über die sich Unternehmen am meisten Sorgen machen, darunter Implementierungsszenarien großer Modelle, Nutzungskosten, Anwendungsentwicklung und Anwendungseffekte, hat Baidu Intelligent Cloud Qianfan die neuesten „Ideen zur Problemlösung“ in zwei Aspekten bereitgestellt: große Modelle und KI-native Anwendungsentwicklung.

Die große Modellplattform Baidu Intelligent Cloud Qianfan veröffentlicht ein neues Modellpaket „3+2“: Verbesserung der „Kosteneffizienz“ großer Unternehmensanwendungsmodelle

Der Effekt großer Modelle ist „technisch“. „Das unermüdliche Streben nach wirtschaftlichen Vorteilen ist das ultimative Ziel der „Marktfraktion“. Bei der Kommunikation mit Kunden in vielen Branchen stellte Xie Guangjun fest, dass mit Ausnahme einiger großer Kunden, die die ultimative Wirkung großer Modelle anstreben, häufig mehr Unternehmen und Institutionen die Nutzungswirkung, Leistung und Kosten großer Modelle umfassend berücksichtigen müssen, d. h. „Wertigkeit“ Vergleichen“. Diesmal wurde die Modellmatrix der Qianfan-Plattform einer Reihe von Upgrades unterzogen, um dem Kernanliegen des Unternehmens, der „Kosteneffizienz“, gerecht zu werden.

(Baidu Intelligent Cloud Qianfan Large Model Platform Model Matrix)

Das große Wenxin-Modell ERNIE 3.5 ist derzeit eines der beliebtesten Basis-Großmodelle auf der Baidu Intelligent Cloud Qianfan-Großmodellplattform. Für gängige Dialogszenarien der Benutzer hat ERNIE 3.5 seine Fähigkeiten in drei Aspekten verbessert: Befolgen von Anweisungen, Kontextlernen und Fähigkeiten zum logischen Denken. Das aktualisierte ERNIE 3.5 hat seine Anwendungsleistung in drei wichtigen Unternehmensanwendungsszenarien, wie der Erstellung von Texten, der Informationsextraktion und dem Aufruf von Tools, deutlich um 24 %, 27 % und 22 % verbessert.

Zweitens haben leichte große Modelle im Vergleich zu großen Modellen mit extrem großen Parametern kleinere Parameter, was es für Kunden einfacher macht, das Modell auf bestimmte Nutzungsszenarien abzustimmen und so die erwarteten Nutzungseffekte einfacher zu erzielen und gleichzeitig mehr Kosten sparen. Auf dieser Konferenz stellte Baidu Intelligent Cloud drei leichte große Modelle vor, darunter ERNIE Speed, ERNIE Lite und ERNIE Tiny, mit Parametern von groß bis klein, um Kunden dabei zu helfen, „das Volumen zu reduzieren, ohne die Effizienz zu beeinträchtigen“ und unnötige Kosten zu sparen.

Konkret hat ERNIE Speed ​​als „Großer“ unter den drei leichten Großmodellen eine Kontextlänge von bis zu 128k in Argumentationsszenarien und kann Aufgaben wie Wissensfragen und -antworten besser bewältigen Kontextabhängigkeiten, um kohärentere und genauere Vorhersagen oder Antworten zu generieren. Gleichzeitig kann ERNIE Speed ​​​​als Basismodell für die Feinabstimmung bestimmter Szenarien verwendet werden. Der Modelleffekt kann dem Flaggschiff-Großparametermodell entsprechen oder es sogar übertreffen, und die Kosteneffizienz wird erheblich verbessert .

Im Vergleich zu ERNIE Speed ​​verfügt ERNIE Lite über kleinere Parameter und eignet sich besser für die Installation auf KI-Beschleunigerkarten mit geringer Rechenleistung, um Inferenzaufgaben zu bewältigen, wobei es den Modelleffekt und die Inferenzleistung hervorragend berücksichtigt reduziert die Implementierungskosten für den Kunden. Als aktualisierte Version des ERNIE-Bot-Turbo-Modells haben sich die Anwendungseffekte von ERNIE Lite in Szenarien wie Stimmungsanalyse, Multitasking-Lernen und natürlichem Denken um 20 % verbessert. Die Kosten für Inferenzanrufe sind deutlich um 53 % gesunken!

ERNIE Tiny, das unter den drei Leichtgewichtmodellen die kleinste Anzahl an Parametern aufweist, bietet Kunden die beste Wahl für extrem niedrige Kosten und geringe Latenz. In Anwendungsszenarien mit hoher Parallelität und geringer Latenz wie Abruf, Empfehlung und Absichtserkennung zeigt die hervorragende Leistung von ERNIE Tiny eine herausragende Leistung. In einem bestimmten Geschäftsszenario für Dialogempfehlungen erhöhte der fein abgestimmte ERNIE Tiny die Anzahl der Dialogrunden um 3,5 % und senkte die Kosten um 32 % im Vergleich zu ERNIE 3.5 bei der Anregung von von Suchmaschinen empfohlenen Wörtern.

Darüber hinaus stellen Unternehmen höhere Anforderungen an die Auswirkungen großer Modelle beim Charakterspielen und externer Toolaufrufe in praktischen Anwendungen. Diese Qianfan-Plattform für große Modelle, ModelBuilder, hat außerdem zwei große Modelle für vertikale Szenen auf den Markt gebracht, ERNIE Character und ERNIE Functions, die auf detaillierten Einblicken in Unternehmensszenarien und Baidus eigenen Best Practices für Unternehmen basieren und sich an die Rollenspiel-Anwendungsszenarien der Kunden anpassen (z. B. Spiele). NPC, Kundenservice-Dialog usw.) und Tool-Call-Szenarien (Verwendung externer Tools im Dialog, Aufruf von Geschäftsfunktionen usw.).

In der Unternehmenspraxis hat ein Smart-Hardware-Hersteller einen intelligenten Assistenten basierend auf ERNIE Character entwickelt. Nach der Anwendung dieses Modells wurde der Effekt hinsichtlich der Charakterkonsistenz, der Stimulierung und Steigerung des Chat-Wunsches der Benutzer usw. erheblich verbessert . Eine Reise- und Reise-APP nutzt ERNIE Functions, um einen intelligenten Kundenservice-Assistenten zu erstellen, der mehrere Funktionsaufrufe wie die Buchung von Tickets und die Überprüfung des Flugstatus mit einer Genauigkeit von 85 % ausführt.

Qianfan AppBuilder wurde vollständig aktualisiert: Die Schwelle für die Entwicklung nativer KI-Anwendungen wurde deutlich gesenkt

Qianfan AppBuilder ist als Plattform für die Entwicklung nativer KI-Anwendungen in Industriequalität ein wichtiger Bestandteil von Qianfan. Die unterste Ebene von AppBuilder besteht aus großen Modellkomponenten, die auf der jahrelangen Technologie und praktischen Erfahrung von Baidu basieren, Basiskomponenten für KI-Fähigkeitskomponenten und einer Reihe erweiterter Komponenten, die detailliert auf typische Anwendungsszenarien abgestimmt und konstruiert werden. Basiskomponenten und erweiterte Komponenten unterstützen gemeinsam den Agenten. Einerseits kann eine komplexere Geschäftslogik durch Workflow-Orchestrierung implementiert werden. Andererseits verfügt der Agent auch über starke autonome Aufgabenplanungsfunktionen und kann Benutzerabsichten verstehen und Ausführungspfade automatisch planen um eine automatisierte Orchestrierung und Ausführung zu erreichen. Diese Funktionen werden durch zwei Entwicklungsmethoden bereitgestellt, Zero-Code-Status und Code-Status, um den Anforderungen verschiedener Entwickler besser gerecht zu werden.

Nach Abschluss der Entwicklung kann die Anwendung über mehrere Kanäle verteilt und integriert werden. AppBuilder unterstützt die Verteilung von Anwendungen mit einem Klick an Mainstream-Kanäle wie WeChat-Kundendienst, offizielles WeChat-Konto, Web-Client/H5. und Baidu Lingjing-Matrix. Basierend auf der Baidu Spiritual Realm Matrix können Anwendungen in Mainstream-Szenarien wie der Baidu-Suche und dem Baidu-Informationsfluss verteilt und bereitgestellt werden. Sobald die Anwendung wirklich entwickelt ist, erreicht sie die Benutzer direkt und eröffnet den gesamten Prozess von der Erstellung nativer KI-Anwendungen über die Entwicklung bis hin zur Verteilung.

(Baidu Smart Cloud Qianfan AppBuilder)

Der aktualisierte AppBuilder verfügt über bis zu 55 offene Toolkomponenten. Es umfasst große Modellkomponenten und KI-Fähigkeitskomponenten, die auf der jahrelangen Technologieakkumulation von Baidu und seiner eigenen Geschäftsakkumulation basieren, sowie Baidu-spezifische Geschäftskomponenten wie die Suche und API-Tools von Drittanbietern für mehrere Szenarien RAG (Knowledge Retrieval Question and Answer), erweiterte Funktionskomponenten wie GBI (Generative Data Analysis), die detailliert auf typische Anwendungsszenarien abgestimmt sind.

Die Entwicklung nativer KI-Anwendungen ist untrennbar mit der Cloud-Infrastruktur verbunden. Zu den dieses Mal veröffentlichten Basiskomponenten gehört auch die neu eingeführte Vektordatenbank VDB 1.0 von Baidu Smart Cloud. Die Vektordatenbank ist eine unverzichtbare Kernkomponente der Wissensdatenbank für Unternehmen. Sie bietet eine leistungsstarke Lösung für Leistungsengpässe, Wartungsherausforderungen und Skalierungsbeschränkungen, mit denen herkömmliche Frage- und Antwortsysteme für Wissensdatenbanken konfrontiert sind. Die neu veröffentlichte Baidu-Vektordatenbank VDB 1.0 integriert nicht nur umfassende Betriebs- und Wartungskontroll- und Sicherheitsschutzfunktionen, sondern ist auch mit Mainstream-Ökosystemen wie Qianfan und LangChain kompatibel, was Unternehmen dabei helfen kann, problemlos Dutzende Millionen Dokumentwissen zu verwalten und bis zu 100-Milliarden-Vektorspeicherskala und Vektorabrufgeschwindigkeit im Millisekundenbereich. Gleichzeitig wird die Leistung von VDB 1.0 im Vergleich zu ähnlichen Open-Source-Produkten um das bis zu Zehnfache verbessert.

Zusätzlich zu den Komponenten verfügt das von Qianfan AppBuilder gestartete (intelligente) Agent-Anwendungsframework über präzise unabhängige Aufgabenplanungsfunktionen, und die automatische Orchestrierungsgenauigkeitsrate für mehrere Anwendungstools übersteigt 90 %, und diese Zahl ist immer noch vorhanden Es verbessert sich ständig. AppBuilder unterstützt Entwickler auch dabei, auf benutzerdefinierte Tools zuzugreifen und automatische Orchestrierung mit manueller Orchestrierung zu kombinieren, um die Anforderungen komplexerer Szenarioanwendungen anzupassen. Die Code-Interpreter-Fähigkeit innerhalb des Agent-Frameworks hat bei diesem Upgrade auch die Leistung deutlich um 40 % verbessert, und die Akzeptanzrate der generierten Ergebnisse in komplexen Datenanalyseszenarien liegt bei bis zu 95 %, was die Bewältigung verschiedener Datenanalysen und Informationen erleichtert Bearbeitungsszenarien.

Darüber hinaus werden auch die codebasierten Entwicklungstools von AppBuilder hinzugefügt. Das AppBuilder SDK veröffentlicht dieses Mal die Agent-API, die es Entwicklern ermöglicht, Agenten einfach in ihre Geschäftssysteme zu integrieren. Gleichzeitig bietet das AppBuilder SDK eine Fülle von Anwendungsbeispielen für gängige native KI-Anwendungsszenarien. Es ist derzeit Open Source auf Github und unterstützt verschiedene Anwendungen . Die flexible Orchestrierung mit kostenlosem Aufruf von Komponenten hilft Entwicklern bei der Umsetzung sekundärer Entwicklungen und einer komfortablen Integration von Anwendungen.

Auf der Konferenz wurde auch gezeigt, wie man im Zero-Code-Entwicklungsmodus in nur 1 Minute eine „English Composition Helper“-Agentenanwendung erstellt. Sie müssen lediglich den Anwendungsnamen oder die Hoffnung in AppBuilder eingeben Mit der entwickelten Anwendungsfunktion kann die Plattform die Anwendung automatisch generieren. Durch einfaches Anpassen der Rollenanweisungen und Hinzufügen der erforderlichen Werkzeugkomponenten kann schnell ein englischer Kompositionskorrekturassistent generiert werden. Sie können es direkt nach der Veröffentlichung verwenden und die Anwendungserstellung und -verteilung in drei Schritten abschließen.

(Erstellen Sie einen englischen Kompositionskorrekturassistenten in 1 Minute)

Nach Ansicht von Baidu Intelligent Cloud passt sich die Ingenieurspraxis mit der kontinuierlichen Weiterentwicklung und dem Durchbruch der Großmodelltechnologie an die Bedürfnisse der Benutzer an immer wichtiger werden. Nur wenn man tief in das Szenario eindringt, die tatsächlichen Bedürfnisse der Kunden erkennt und darauf reagiert, kann man die Vorteile innovativer Technologie am besten freisetzen.