Kann der Wettbewerb um große vertikale Modelle Datenstaupunkte durchbrechen?

KI-Großmodelle erfreuen sich auf der ganzen Welt großer Beliebtheit, und auch die chinesische Industrie hat neue Begeisterung für Anwendungen der künstlichen Intelligenz geweckt.

Da große Hersteller am Wettbewerb teilnehmen, teilt sich der Markt in zwei Hauptpfade: allgemein und vertikal. Die Unterschiede zwischen den beiden in Parameterebenen, Anwendungsszenarien, Geschäftsmodellen usw. haben sich nach und nach herauskristallisiert.

1. Unternehmen strömen in den Bereich der vertikalen großen Modelle.

Allgemeine KI-Großmodelle wie ChatGPT können natürliche Sprache in verschiedenen Bereichen und Szenarien verarbeiten. Aufgrund der enormen Rechenressourcen und des erforderlichen Datenvolumens sind sie jedoch in den Fokus gerückt Schlüsselprojekte von in- und ausländischen Herstellern.

Diese Art von Unternehmen verfügt normalerweise über ein starkes technisches Team und finanzielle Unterstützung sowie über eigene Szenario- und Verkehrsvorteile. Baidu, Alibaba, Tencent, Byte, Huawei und andere Unternehmen haben ihre eigenen allgemeinen KI-Großmodelle in den Bereichen Suche, soziale Netzwerke, E-Commerce, Büro und anderen Bereichen übernommen.

Im Vergleich dazu ist es für Startups und Unternehmen in Nischenfeldern schwierig, sich in einem solchen Wettbewerb First-Mover-Vorteile oder Differenzierungsvorteile zu verschaffen.

Das vertikale KI-Großmodell konzentriert sich nur auf einen bestimmten Bereich oder ein bestimmtes Szenario. Es kann Branchendaten und -wissen nutzen, um genauere und effizientere Lösungen bereitzustellen, um die Bedürfnisse und Bedürfnisse der Benutzer in einem bestimmten Bereich oder Szenario besser zu erfüllen : medizinische Versorgung, Finanzen, Bildung usw.

Gleichzeitig kann es einige allgemeine Open-Source- oder Closed-Source-KI-Großmodelle als Grundlage verwenden und dann eine Anweisungsoptimierung an ihnen durchführen, um sich an seine eigenen Zielfelder oder -szenarien anzupassen.

Daher ist seine Parameterskala eine Größenordnung niedriger als die eines allgemeinen großen Modells. Wenn das Datenschwungrad und das Modelltraining gut kombiniert werden können, kann es in einigen spezifischen Bereichen sogar eine bessere Leistung erbringen und weniger kosten als ein allgemeines großes Modell .

In diesem Zusammenhang haben sich immer mehr Unternehmen der vertikalen großen Modellschiene angeschlossen.

Am 18. Mai veröffentlichte Sangfor Chinas erstes selbst entwickeltes großes Sicherheitsmodell und war damit die erste Anwendung der GPT-Technologie im Sicherheitsbereich.

Am 5. Mai gab Xueersi bekannt, dass es ein selbst entwickeltes großes mathematisches Modell mit dem Namen entwickelt MathGPT für globale Mathematikbegeisterte und wissenschaftliche Forschungseinrichtungen;

Im März gab Daguan Data bekannt, dass es das Caozhi-System entwickelt und sich dabei auf große Sprachmodelle in vertikalen Bereichen wie Finanzen, Regierungsangelegenheiten und Fertigung konzentriert.

Klare Kommerzialisierungsszenarien und niedrigere Kosten für Rechenleistung haben verschiedenen Unternehmen die Tür zum Einstieg in große vertikale Modelle geöffnet.

2. Der Test des vertikalen großen Modells

Der Vorteil des vertikalen großen Modells besteht darin, dass es nicht groß genug ist: Die Rechenleistung ist nicht groß genug und die Algorithmusschwierigkeit ist gering, aber das bedeutet nicht, dass es jeder kann Machen Sie das vertikale große Modell.

Wie wir alle wissen, sind die drei Elemente großer KI-Modelle: Rechenleistung, Algorithmen und Daten der „Feed“, der die KI speist.

Lassen Sie uns zunächst über die Rechenleistung sprechen.

Der Grund, warum große Modelle „groß“ sind, liegt in der großen Anzahl von Parametern und der riesigen Datenmenge. Der Rechenaufwand für ein großes KI-Modell entspricht in etwa dem Produkt aus der Parametermenge und der Datenmenge.

In den letzten fünf Jahren ist die Anzahl der Parameter großer KI-Modelle fast jedes Jahr um eine Größenordnung gestiegen. Beispielsweise ist die Anzahl der Parameter von GPT-4 16-mal so hoch wie die von GPT-3 und erreicht 1,6 Billionen .

Mit der Einführung multimodaler Daten wie Bilder, Audio und Video wächst auch die Datenmenge in großen Modellen rasant. Das heißt, wenn Sie mit großen Modellen spielen möchten, müssen Sie über eine große Rechenleistung verfügen.

Als Referenz: Die Trainings- und Inferenzkosten einer Reihe großer vertikaler Modelle können um eine Größenordnung niedriger sein als die des Open AI-Modells mit der gleichen Parameterskala im Szenario der digitalen humanoiden Technologie, wie Wang Sijie, strategischer Direktor von Qiyuan World, sagte Einmal erwähnt: Erstellen Sie zunächst kleinere vertikale Modelle (z. B. Dutzende Milliarden Parameter), damit das Datenschwungrad und das Modelltraining gut kombiniert werden können. Vertikale Modelle können in einigen Bereichen effektiver sein als Open AI .

Auch wenn der Rechenleistungsbedarf des vertikalen Großmodells weitaus geringer ist als der des allgemeinen Großmodells, werden die Investitionen in die Rechenleistungsinfrastruktur einige kleine Unternehmen dennoch vom Einstieg abhalten.

Lassen Sie uns über den Algorithmus sprechen.

Unter den drei Elementen ist die Schwierigkeit der Algorithmusentwicklung relativ gering. Jedes Unternehmen verfügt über einen eigenen Pfadalgorithmus zur Realisierung großer Modelle, und es gibt viele Open-Source-Projekte, die am einfachsten als Referenz verwendet werden können sogar die Lücke schließen.

Lassen Sie uns zum Schluss über Daten sprechen.

Hochwertige Daten sind der Schlüssel zur Unterstützung des KI-Trainings und -Tunings. Genügend und reichhaltige Daten sind die Grundlage großer KI-Modelle.

OpenAI gab zuvor bekannt, dass die Entwickler GPT-3.5 mit bis zu 45 TB Textkorpus ausgestattet haben, damit die KI genauso reibungslos wie Menschen sprechen kann, was 4,72 Millionen Sätzen der „Vier großen Klassiker“ Chinas entspricht. Diese Korpusquellen stammen aus einer Vielzahl von Quellen, darunter Wikipedia, Online-Artikeln, Büchern und Zeitschriften usw., und sogar die Open-Source-Code-Plattform Github ist enthalten.

Aber wenn man sich auf segmentierte Branchen konzentriert, ist es nicht so einfach, Daten zu erhalten.

Industrial Securities hat öffentlich erklärt, dass für die Schulung professioneller groß angelegter Industriemodelle hochwertige Branchendaten und öffentliche Daten von entscheidender Bedeutung sind.

Was den inländischen Datenmarkt betrifft, so machen die staatlichen Datenressourcen meines Landes nach offiziellen Angaben der Nationalen Entwicklungs- und Reformkommission mehr als drei Viertel der Datenressourcen des Landes aus, der Grad der Offenheit ist jedoch geringer 10 % des Umfangs, den Einzelpersonen und Unternehmen nutzen können, ist sogar geringer als der der Vereinigten Staaten.

Und Branchendaten sind sehr wichtige private Domänendaten. Je größer die Menge an privaten Domänendaten und je höher die Qualität, desto wertvoller sind sie.

Wenn ein medizinisches Unternehmen über umfangreiche medizinische Daten und Falldaten verfügt, ist es in der Lage, groß angelegte vertikale Modellprodukte ähnlich der medizinischen Industrie zu entwickeln. Projektdaten in der Baubranche, Benutzerporträtdaten in der Finanzbranche und Schiffspositionsdaten in der Schifffahrtsbranche sind wichtige Datenquellen, die große vertikale Modelle unterstützen.

Aber diese privaten Domänendaten liegen alle in den Händen der Unternehmen selbst, und aus Gründen der Datensicherheit und Compliance erfordern die meisten Institutionen eine lokale Bereitstellung, bevor sie große Modellschulungen durchführen. Es ist schwer vorstellbar, dass Unternehmen ihre Kerndaten an andere weitergeben und trainieren.

Darüber hinaus ist es auch sehr wichtig, Daten richtig zu kennzeichnen und zu kommentieren. Formulieren Sie die ursprünglichen Worte wie folgt um: Die Klassifizierung von Daten auf verschiedenen Ebenen kann die Produkteffizienz verbessern, und hochpräzise gekennzeichnete Daten können die professionelle Leistung großer Modelle weiter verbessern.

Zu diesem Zeitpunkt sind jedoch die Kosten für die Beschaffung hochpräziser Anmerkungsdaten für vertikale Branchen relativ hoch, und in öffentlichen Datenbanken gibt es weniger professionelle Branchendaten, sodass hohe Anforderungen an die Erstellung großer vertikaler Modelle gestellt werden.

Wenn Sie ein großes vertikales Modell erstellen möchten, sind Daten im Allgemeinen wichtiger als Rechenleistung und Algorithmen.

Daten sind für Unternehmen zu einem „steckengebliebenen Punkt“ geworden, um große vertikale Modelle zu durchbrechen.

3. Seien Sie mit Branchendaten einen Schritt voraus

Vertikale groß angelegte Modelle betonen die anwendungs- und szenarioorientierte Logik, und in China betonen sie den Wert der Branchenseite.

Einerseits gibt es im Rahmen der aktuellen Intelligenzwelle in China eine breite Marktnachfrage nach digitalen Innovationen auf industrieller Seite, andererseits sind im Rahmen des toB-Ökosystems auch vertikale anwendungsbasierte Praktiken förderlich Bildung eines Datenschwungrads und eines Szenenschwungrads.

Die Voraussetzung dafür ist, dass das Unternehmen, das große vertikale Modelle auf den Markt bringt, technische Barrieren und Gräben in der Branche errichtet hat, das heißt den Wettbewerbsvorteil „Niemand hat, was ich habe“.

Es scheint, dass Unternehmen, die seit vielen Jahren stark in vertikalen Branchen tätig sind, möglicherweise größere Gewinnchancen haben.

Diese Unternehmen verfügen über umfangreiche Erfahrungen in den Bereichen Datenverarbeitung, groß angelegte Modelle und Wissensgraphen und haben größere Vorteile bei der Optimierung groß angelegter Modelle. Gleichzeitig verfügen sie über ein tiefes Verständnis der B-Kundenbedürfnisse und Implementierungsszenarien, wodurch die Glaubwürdigkeit und Zuverlässigkeit vertikaler Großmodellprodukte besser gewährleistet und die Anforderungen der Unternehmen an Sicherheit, Kontrollierbarkeit und Compliance erfüllt werden können.

Derzeit wurden einige große vertikale Modelle in den Bereichen Finanzen, Bildung, Medizin, Marketing und anderen Szenarien getestet.

Zum Beispiel nutzt Bloomberg seine eigenen umfangreichen Finanzdatenquellen und trainiert basierend auf dem Open-Source-GPT-3-Framework ein finanzspezifisches großes Modell BloombergGPT.

NetEase Youdao hat ein selbst entwickeltes ChatGPT-ähnliches Modell für Bildungsszenarien eingeführt „Sagte Zi“;

Nur wenige Wochen nach der Veröffentlichung von ChatGPT kündigte Google Med-PaLM an, ein groß angelegtes medizinisches Sprachmodell, das speziell für die Beantwortung von Fragen im Gesundheitswesen entwickelt wurde...

Mit dem Beitritt weiterer Unternehmen, Large -Maßstabsmodelle in vertikalen Feldern werden in verschiedenen Branchen und Unterabteilungen weit verbreitet sein. Und diejenigen Unternehmen, die sich auf ein vertikales Feld spezialisieren und verstehen, hochwertige Daten zur kontinuierlichen Optimierung von Modellen verwenden, geschlossene Geschäftskreisläufe durchlaufen und ein industrielles Ökosystem aufbauen können, werden die Wertschöpfungskette letztendlich lang genug machen.

Das obige ist der detaillierte Inhalt vonKann der Wettbewerb um große vertikale Modelle Datenstaupunkte durchbrechen?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!