Chinesische Wissenschaftler wechseln von Inferenz zu KI-Modelltraining auf Huawei-Acceleratoren

Chinesische Huawei-Chips haben erfolgreich das Nachtraining des Modells DeepSeek‑V4‑Pro abgeschlossen

*Laut einer Meldung der South China Morning Post gelang es in China, die Huawei Ascend 910C Chips für die vollständige Feinabstimmung des großen KI-Modells DeepSeek‑V4‑Pro einzusetzen. Dies ist ein wichtiger Schritt in der Entwicklung der heimischen Halbleiterindustrie, die bestrebt ist, von einfachem Inferenzieren zu komplexem Training unter verschärften US-Sanktionen überzugehen.*

Was passiert ist
Projektstart: Die Forschungsgruppe von Huawei Technologies und Partnern (Shenzhen Ring Road Institute, Shenzhen Campus des Harbin Institute of Technology, Shenzhen Big Data Research Institute) startete mit dem Ziel, das Modell DeepSeek‑V4‑Pro zu trainieren.
Skala: Das Modell enthält 1,6 Billionen Parameter und wurde auf einem Cluster aus mindestens 1000 Ascend 910C Chips gestartet.
Nachtraining: Vollständiges „parametrisches“ Feintuning – die gesamte Modellarchitektur wurde ohne Kompromisse aktualisiert, nicht nur einzelne Schichten.

Warum das wichtig ist
* Bis vor kurzem wurden chinesische Chips erfolgreich für Inferenz eingesetzt – ein Prozess, bei dem das Modell einfach auf Anfragen antwortet.

* Jetzt kann dank des neuen Projekts das Modell selbstreflektieren und sich während der Arbeit anpassen, was „komplexe Überleitungen und Schleifen“ zu einem zuvor einseitigen Datenfluss hinzufügt. Das erhöht die Rechen- und Kommunikationsanforderungen, macht aber das System autonomer.

Erwartete Ergebnisse
* Die Regierung von Shenzhen erklärte, dass die Forschung dazu beitragen werde, die Selbstständigkeit der chinesischen KI-Industrie zu erhöhen und die Position heimischer Mikrochips unter externen Beschränkungen zu stärken.