Hardware Beschleunigung treibt die Zukunft an

Wenn Sie diese Fortschritte jedoch wieder auf das Gesetz von Moore zurückverfolgen und wirklich auspacken, wie inkrementelle Verdoppelungsfunktionen, wird das Bild klar.

Erinnern Sie sich an das Gleichnis vom Weisen (manchmal als Erfinder des Schachs angesehen), der einen König um ein einzelnes Reiskörnern fragte, das sich auf jedem Platz des Boards 64 -mal verdoppelte. Diese Geschichte zeigt perfekt, wie das exponentielle Wachstum bescheiden beginnt - 1, 2, 4, 8, 16, 32 - und explodiert dann plötzlich in Zahlen, die so groß sind, dass sie sich der Vorstellungskraft widersetzen. Auf dem letzten Platz befassen Sie sich mit 18 Quintillionen, 446 Fülle, 744 Billionen Reiskörnern - eine unverständliche Menge.

Es ist eine einfache Mathematik, aber es fühlt sich wie Zauberei an. Und ich liebe diese Fußnote von Wikipedia über den Ursprung des Tale: „Abhängig von der Version wird der clevere Erfinder entweder ein vertrauenswürdiger königlicher Berater oder wird umgehend ausgeführt.“

Das gleiche Prinzip spielt sich jetzt im heutigen KI -Boom ab. Tatsächlich prägte AI Visionary Ray Kurzweil den Begriff „die zweite Hälfte des Schachbretts“, um den Moment zu beschreiben, in dem sich der exponentielle Fortschritt von kaum aufmerksam zu äußerst transformativ verlagert. Die erste Hälfte sieht überschaubar aus; Die zweite Hälfte umgestaltet die Realität. Dann steigt die Kurve nicht nur auf - sie rastet nach oben und bricht die Decken durch, die wir einst dauerhaft hielten.

Die spannende Geschwindigkeit der Hardware -Innovation

Ich habe bereits über den WSE -Chip von Cerebras geschrieben - ein Silizium -Sterbchen in der Größe eines Telleres, der mit rund 90.000 Kernen verpackt ist.

Laut Berichten aus Quellen wie dem IEEE-Spektrum erreicht das WSE-2 (verwendet im Cerebras CS-2-System) rund 7,5 Petaflops FP16-Compute-7.500 Billionen Operationen pro Sekunde. Die neuere WSE-3? Es springt auf erstaunliche 125 Petaflops.

Eines dieser Chips zu halten ist wie ein Stück der Zukunft zu halten. Es verkörpert die rohe Kraft der massiven Parallelität. Vor nicht allzu langer Zeit haben wir Dual-Core-Prozessoren gefeiert. Dann kamen Quad-Core, Octa-Core-der Schritt revolutionär. Jetzt haben wir einen Bereich betreten, in dem Zehntausende von Kernen im Einklang operieren.

Dann gibt es Systeme wie Huawei CloudMatrix, bei denen genaue Spezifikationen eng bewacht werden, aber die zugrunde liegende Botschaft ist unverkennbar: Die Rechenleistung ist über das hinausgeht, was die meisten Menschen überhaupt konzipieren können.

Hardware als Ökosystem

Bei einer kürzlich durchgeführten TED -Veranstaltung lieferte der junge Technologe Caleb Sirak eine überzeugende Gesprächsrahmen -Hardware als eine Art „Siliziumgefängnis“.

Er ging durch die Entwicklung der Hardwarebeschleunigung - von frühen Maschinen, die Millionen von Operationen pro Sekunde abwickelten, bis hin zu den heutigen Systemen, die Billionen knirschen, sogar bei vierzig Billionen. Während das Gaming die frühen Innovation treibst, stellte er fest, dass der wahre Durchbruch kam, als Plattformen wie Nvidia's Cuda die Tür zum Allzweck-GPU-Computing öffneten.

Jetzt, argumentierte er, ist es Zeit für ein neues Paradigma.

"Wir müssen die gesamte Architektur überdenken", erklärte Sirak.

Anspruch auf den Hardwarevorteil

Ein Schlüssel zur Erschließung der GPU-Leistung der nächsten Generation ist die Quantisierung.

Beispielsweise ist ein 4-Bit-Multiplikator dramatisch effizienter als sein 32-Bit-Gegenstück-die weniger Leistung, Platz und Zeit erfordert.

Er zitierte Chips wie Cerebras 'WSE als Hauptbeispiele, wie die Minimierung der Datenbewegung die AI -Effizienz beenden kann.

"Wenn die Parameter kleiner sind", erklärte er, "können wir jede Sekunde mehr davon über das System bewegen und Engpässe in Speicher- und Netzwerkverbindungen drastisch reduzieren."

Er bezog sich auf das Colossus -Projekt von XAI und seine ehrgeizige „Roadmap“, um bis zu einer Million GPUs zu skalieren. Doch auch in dieser Größenordnung bleibt die Effizienz König.

"Sie können eine Stadt mit kurvenreichen Straßen und gemischtem Verkehr entwerfen", sagte er, "oder Sie können eine F1 -Rennstrecke bauen. Auf dieser Strecke geht das F1 -Auto nicht nur schnell - es dominiert."

Er betonte die Bemühungen mehrerer Unternehmen, koordinierte Cluster von Hardware -Einheiten zu erstellen - was er als „intelligente Kolonien“ bezeichnet - im Konzert wie Schwärme von Engineered Brilliance.

"Die Fähigkeiten, die wir durch KI -Chips und architektonische Sprünge freischalten, sind transformativ", fügte Sirak hinzu. "Und damit diese Revolution der Menschheit zugute kommt, muss Innovation offen, zugänglich und global geteilt sein. Im Kern des All ist eine Lieferkette der erstaunlichen Komplexität: Seltene erdelemente, die auf einem Kontinent abgebaut sind, raffinierte Chemikalien aus einem anderen und die endgültige Herstellung auf einem Drittel."

Um die globale Interdependenz zu veranschaulichen, wies er darauf hin, dass ein einzelner Chip über ein Dutzend Länder durchquert, bevor er sein endgültiges Ziel erreichte. Dies ist für jeden, der bewusst ist, dass TSMC - Taiwan Semiconductor Manufacturing Company - die Mehrheit der weltweit fortgeschrittenen Halbleiterchips produziert.

Eines ist sicher: Wir sind jetzt tief in den vertikalen Anstieg der Hockey -Stick -Kurve - eine historische Welle der Hardwarebeschleunigung. Die Zukunft kommt nicht nur. Es ist schon da.

Das obige ist der detaillierte Inhalt vonHardware Beschleunigung treibt die Zukunft an. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!