Das Tsinghua-Team führt eine neue Plattform ein: Nutzung dezentraler KI, um den Mangel an Rechenleistung zu überwinden

Kürzlich weist eine Datenquelle auf das erstaunliche Wachstum des Bedarfs an Rechenleistung im KI-Bereich hin –

Nach Schätzungen von Branchenexperten erfordert die von OpenAI gestartete Trainingsphase von Sora etwa 4200-10500 NVIDIA H100 für einen Monat, und wenn das Modell bis zur Inferenzphase generiert wird, übersteigt der Rechenaufwand schnell die Trainingsphase.

Wenn sich dieser Trend fortsetzt, könnte es für das GPU-Angebot schwierig werden, die anhaltende Nachfrage nach großen Modellen zu decken.

Allerdings gibt es in letzter Zeit einen neuen Trend im Ausland, der neue Lösungen für den bevorstehenden „Rechenleistungsmangel“ bieten könnte – dezentrale KI.

Vor drei Wochen, am 23. März, gab Stability AI plötzlich eine Ankündigung heraus, in der der Rücktritt des CEO des Unternehmens, Emad Mostaque, angekündigt wurde. Emad Mostaque selbst enthüllte seinen nächsten Schritt, um den „Traum einer dezentralen KI“ zu verwirklichen.

Aufgrund der Schwierigkeit, technische Schwachstellen wie die Unsicherheit und Instabilität dezentraler Netzwerke zu lösen, ist es jedoch schwierig, die letzte Welle dezentraler KI im Zeitalter großer Modelle wirklich umzusetzen.

Kürzlich entdeckte Qubits, dass ein Tsinghua-Team, das ein Auslandsunternehmen gründete, sich auf dezentrale KI konzentrierte und NetMind.AI entwickelte. Im Jahr 2023 veröffentlichte NetMind ein Whitepaper, in dem die dezentrale Plattform zur gemeinsamen Nutzung von Rechenleistung NetMind Power detailliert beschrieben wird. Diese Plattform zielt darauf ab, die Schwachstellen dezentraler KI im Zeitalter großer Modelle zu lösen.

1. GPU für jeden Entwickler erschwinglich machen

Im September 2021 startete NetMind.AI ein dezentrales Computerplattformprojekt namens NetMind Power.

Weltweit gibt es eine große Menge an Rechenleistung vor Ort: Rechenleistung vor Ort in traditionellen Rechenzentren, nicht ausgelastete Rechenleistung im Besitz kleiner und mittlerer Unternehmen und verstreute GPUs im Besitz von Einzelpersonen. Diese Rechenleistung steht entweder im Leerlauf oder wird für Spiele und Videowiedergabe verwendet. Gleichzeitig wird die KI-Rechenleistung immer knapper. KI-Forscher, kleine und mittlere Unternehmen, insbesondere KI-Startups, und traditionelle Unternehmen, die an KI-Projekten teilnehmen, leiden alle unter den hohen Kosten und der hohen Schwelle der KI-Rechenleistung.

NetMind Power hat ein Computernetzwerk geschaffen, das sich der Zentralisierung widmet und die von NetMind entwickelte Kerntechnologie nutzt, um globale Computerressourcen zu nutzen und benutzerfreundliche und erschwingliche KI-Computerdienste für die KI-Branche bereitzustellen.

△NetMind Power ist eine kostengünstige Wahl für den Erhalt von Rechenleistung und bietet Benutzern effiziente und erschwingliche Lösungen für Rechenressourcen.

Derzeit hat NetMind Power Tausende von Grafikkarten gesammelt, darunter H100, A100, 4090, 3090.

Vier Highlights der Plattform:

1. Dezentraler dynamischer Cluster – Erstellen Sie zuverlässige und effiziente KI-Anwendungen auf extrem unsicherer Rechenleistung.

Die Power-Plattform nutzt P2P-basierte dynamische verteilte Cluster-Technologie, kombiniert mit ihren einzigartigen Routing- und Clustering-Algorithmen Neuronale Netze verknüpfen Tausende von Rechenknoten zu einer leistungsstarken Netzwerk-Cluster-Architektur und bedienen insbesondere anspruchsvolle Anforderungen wie KI-Anwendungen.

Wenn Benutzer KI-bezogene Vorgänge auf der Power-Plattform durchführen, wie z. B. Modelltraining, Feinabstimmung oder Inferenz, kann das dezentrale Netzwerk von Power in kürzester Zeit die beste KI durch Optimierungsalgorithmen in Rechenknoten auf der ganzen Welt bereitstellen Rechenressourcen zur Bereitstellung von Diensten für Benutzer.

Gleichzeitig stellt Power B-seitigen Benutzern dynamische Clusterstrategien zur Verfügung, mit denen Knoten in wenigen Sekunden intelligent reorganisiert und konfiguriert werden können, wodurch anpassbare, hoch skalierbare und hochredundante exklusive Cluster bereitgestellt werden.

2. Vollständiges KI-Ökosystem: Senken Sie die Schwelle für die Nutzung von Rechenleistung und erweitern Sie dezentrale Netzwerkanwendungsszenarien.

Mit der jahrelangen Erfahrung von NetMind im KI-Bereich wird Power Network Open-Source-Modellbibliotheken und KI-ökologische Grundlagen wie KI umfassen Datensätze, Daten- und Modellverschlüsselung sowie umfassende Dienste wie Modelltraining, Inferenz und Bereitstellung schaffen eine MaaS-Plattform (Model as a Service), um sowohl Rechenleistungsanbieter als auch KI-Anwendungen zu unterstützen.

Die MaaS-Plattform von Power ist auf KI+-Projekte für wissenschaftliche Forscher, kleine und mittlere Unternehmen im KI-Bereich sowie traditionelle Unternehmen ausgerichtet und wird die Schwelle für die Nutzung von Rechenleistung erheblich senken, insbesondere für kleine und mittlere Unternehmen sowie traditionelle Unternehmen Unternehmen ohne professionelle KI-Entwicklungsfähigkeiten.

Für herkömmliche Rechenleistungsanbieter können mit Hilfe des Power-Netzwerks mehr Benutzer erreicht werden. Darüber hinaus können sie mit Hilfe der MaaS-Plattform von Power Anwendungsszenarien erweitern und höhere Gewinne erzielen. Auf diese Weise kann Power Network traditionelle kleine und mittlere zentralisierte Rechenleistung in das dezentrale Rechenleistungsnetzwerk integrieren und so den Umfang des Netzwerks erheblich erweitern.

3. Asynchroner Trainingsalgorithmus – Netzwerkengpässe lösen und das Potenzial ungenutzter Rechenleistung nutzen

Im aktuellen Bereich des maschinellen Lernens, insbesondere beim groß angelegten Sprachmodelltraining, ist es normalerweise erforderlich, ein synchrones verteiltes Training zwischen GPUs über dedizierte GPU-Kabel oder interne Netzwerke mit hoher Bandbreite zu erreichen, was zwangsläufig den Trainingsschwellenwert und die Kosten erhöht.

NetMind Power durchbricht die Grenzen der Netzwerkgeschwindigkeit und Bandbreite beim verteilten Training durch selbst entwickelte Modellsegmentierung und datenasynchrone Technologien. Sogar Trainingsknoten, die in verschiedenen Teilen der Erde verteilt sind, können gleichzeitig an einem riesigen Modelltraining teilnehmen.

4. Modellverschlüsselung und Datenisolierung – Lösung von Sicherheitsproblemen in dezentralen Netzwerken

Power bietet eine einzigartige Modellverschlüsselungstechnologie, um die Sicherheit der KI-Modelle und -Daten der Benutzer in dezentralen Volunteer-Computing-Szenarien zu gewährleisten. Die gesamte Netzwerkkommunikation ist verschlüsselt, um die Sicherheit der Datenübertragung zu gewährleisten; Datenisolierung und Modellaufteilung stellen sicher, dass kein einzelner Knoten im dezentralen Netzwerk vollständige Daten und Modelle erhalten kann, was die Sicherheit erheblich verbessert.

Bilder

Zweitens ein weiteres Team mit Tsinghua-Hintergrund, das seit vielen Jahren im Ausland Unternehmertum betreibt

Das Kernteam von NetMind.AI kommt aus Tsinghua und ist seit mehr als 10 Jahren im KI-Bereich tätig Jahre.

Der Gründer und CEO des Unternehmens, Kai Zou, schloss 2010 den naturwissenschaftlichen Grundkurs der Tsinghua-Universität in Mathematik und Physik ab und erhielt 2013 einen Master-Abschluss in Mathematik und Statistik von der Georgetown University.

Er ist ein Serienunternehmer, der sowohl ProtagoLabs als auch die gemeinnützige Organisation AGI Odyssey geleitet hat. Gleichzeitig ist er auch ein Angel-Investor und hat in viele KI-Start-ups investiert, darunter Haiper.ai, Auto Edge, Qdot und Orbit.

Es ist erwähnenswert, dass das von Kai Zou und dem OpenAI-Forscher Jason Wei veröffentlichte Papier „EDA: Easy Data Augmentation Techniques for Boosting Performance on Text Classification Tasks“ mehr als 2.000 Mal zitiert wurde. Der CEO und sein Team sind fest davon überzeugt, dass die von ihnen aufgebaute Plattform Ressourcen für Wissenschaftler bereitstellen sollte, die tatsächlich akademische Forschung betreiben, und Unternehmensingenieure, die die Entwicklung von KI vorantreiben.

Bild

Der CTO des Unternehmens erwarb 2016 einen Master-Abschluss in Informatik an der George Washington University. Bevor er zu NetMind.AI kam, war er als leitender Teamleiter bei Microsoft tätig. und Vertrieb Er verfügt über umfangreiche Erfahrung in Hybridsystemen, Kubernetes, Cloud Computing, Azure und AWS und verfügt über professionelle Kenntnisse in Edge Computing, Full-Stack-Entwicklung und maschinellem Lernen.

3. Das ultimative Ideal: KI in jeden Haushalt bringen

Hinter NetMinds Vision einer dezentralen KI verbirgt sich tatsächlich das Ideal einer integrativen Technologie.

Rückblickend auf die Entwicklungsgeschichte der IT-Technologie zeigt sich der Trend zur Dezentralisierung oft dann, wenn die Konzentration der Rechenressourcen stark zunimmt. Als Bottom-up-Kraft kämpft sie gegen Giganten, die versuchen, alle Ressourcen zu monopolisieren und sich dadurch zu öffnen Eine neue Ära der technologischen Inklusivität hat es ermöglicht, dass sich neue Technologien wirklich in jeden Winkel der Welt verbreiten.

Der heutige große Modellmarkt befindet sich möglicherweise in einem solchen Moment.

Wenn man sich den großen Modellmarkt ansieht, gibt es nach einem ganzen Jahr intensiver Entwicklung nicht viele Startups, die wirklich Fuß fassen können. Mit Ausnahme einiger Star-Einhörner scheint die Zukunft großer Modelle in den Händen von Technologiegiganten wie Microsoft, Google und Nvidia zu liegen. Im Laufe der Zeit könnten einige Unternehmen eine Monopolkontrolle über Preise, Verfügbarkeit und Zugang zu Computerressourcen entwickeln.

Zu diesem Zeitpunkt sind demokratisierte Erzählungen wie NetMind Power erforderlich, um einen neuen Entwurf für die AGI-Geschichte zu schreiben.

Aktuell kooperiert NetMind im akademischen und kommerziellen Bereich –

Im akademischen Bereich kooperiert NetMind Power derzeit mit vielen Top-Universitäten im In- und Ausland, darunter den Top-Universitäten im Bereich Informatik, der Cambridge University, Oxford Universität und Carnegie Mellon University, Tsinghua University, Huazhong University of Science and Technology, Rice University, Fudan University, Shanghai Jiao Tong University usw.

Bilder

In geschäftlicher Hinsicht bietet NetMind Power Unternehmen KI-Rechenleistungslösungen auf Basis dezentraler Netzwerke, sodass sich Unternehmen auf Modellentwicklung und Produktinnovation konzentrieren können. Immer mehr Unternehmen beschleunigen die Einführung innovativer KI-Produkte mithilfe von Netmind Power. Beispielsweise hat Haiper.ai, das Wensheng-Videoteam, das in Nordamerika in letzter Zeit an Dynamik gewonnen hat, sein Modelltraining und seine Inferenz tief in die NetMind Power-Plattform integriert.

In Zukunft wird NetMind Power schrittweise zu einer dezentralen KI-Community heranwachsen und die globale KI-Innovation beschleunigen.

Praktiker des maschinellen Lernens, akademische Forscher und Unternehmen auf der Seite der KI-Anwendungen finden auf der NetMind Power-Plattform die Rechenleistung und Modelle, die sie benötigen. Sie können auch ihre eigenen trainierten Modelle auf der Plattform hosten oder diese sogar bereitstellen die Plattform anderen Nutzern zur Verfügung stellen und von ihnen eine bestimmte Gebühr verlangen.

Benutzer können die entsprechende Rechenleistung auf der Plattform nicht nur zur Lösung ihres eigenen Schulungsbedarfs nutzen, sondern ihre trainierten Modelle über die Plattform auch mehr bedürftigen Personen oder Unternehmen zur Verfügung stellen und sie Schicht für Schicht weitergeben.

Um AGI wirklich zu verwirklichen, sind die Universalisierung und Demokratisierung der KI unumgängliche Voraussetzungen. Heute leistet NetMind.AI, das die Führung übernommen hat, seinen eigenen Beitrag, sucht nach weiteren Partnern und macht einen soliden Schritt in Richtung der demokratischen AGI-Ära.