Was ist NPU?

npu bezieht sich auf einen „eingebetteten neuronalen Netzwerkprozessor“, der eine „datengesteuerte Parallelrechner“-Architektur verwendet und sich besonders gut für die Verarbeitung großer Multimediadaten wie Videos und Bilder eignet. Der NPU-Prozessor wurde speziell für die künstliche Intelligenz des IoT entwickelt, um den Betrieb neuronaler Netze zu beschleunigen und das Problem der geringen Effizienz herkömmlicher Chips im Betrieb neuronaler Netze zu lösen.

Der eingebettete neuronale Netzwerkprozessor (NPU) verwendet eine „datengesteuerte Parallelrechner“-Architektur und eignet sich besonders gut für die Verarbeitung großer Multimediadaten wie Videos und Bilder.

Der NPU-Prozessor wurde speziell für die künstliche Intelligenz des IoT entwickelt. Er wird verwendet, um den Betrieb neuronaler Netze zu beschleunigen und das Problem der geringen Effizienz herkömmlicher Chips im Betrieb neuronaler Netze zu lösen. Im GX8010 verfügen die CPU und die MCU jeweils über eine NPU. Die NPU in der MCU ist relativ klein und wird üblicherweise SNPU genannt.

Der NPU-Prozessor umfasst Module wie Multiplikation und Addition, Aktivierungsfunktion, zweidimensionale Datenoperation und Dekomprimierung.

• Das Multiplikations- und Additionsmodul wird zur Berechnung von Matrixmultiplikation und -addition, Faltung, Punktmultiplikation und anderen Funktionen verwendet. Es gibt 64 MACs in der NPU und 32 in der SNPU.

• Das Aktivierungsfunktionsmodul verwendet die Parameteranpassungsmethode höchster 12. Ordnung, um die Aktivierungsfunktion im neuronalen Netzwerk zu implementieren. Es gibt 6 MACs innerhalb der NPU und 3 innerhalb der SNPU.

• Das zweidimensionale Datenoperationsmodul wird verwendet, um Operationen auf einer Ebene zu implementieren, wie z. B. Downsampling, Ebenendatenkopie usw. Es gibt 1 MAC innerhalb der NPU und 1 innerhalb der SNPU.

• Das Dekomprimierungsmodul wird zum Dekomprimieren von Gewichtsdaten verwendet. Um das Problem der geringen Speicherbandbreite in IoT-Geräten zu lösen, werden die Gewichte im neuronalen Netzwerk im NPU-Compiler komprimiert, wodurch ein 6- bis 10-facher Komprimierungseffekt erzielt werden kann, ohne die Genauigkeit zu beeinträchtigen.

Das obige ist der detaillierte Inhalt vonWas ist NPU?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!