OpenAI zweifelt an der Wirksamkeit von Nvidia‑Beschleunigern für die Inferenz und sucht aktiv nach einer Alternative.

Was passiert in der Welt der KI-Technologien
PunktKurz Hauptakteure OpenAI und Nvidia gelten als Marktführer im Bereich künstliche Intelligenz, suchen jedoch nach neuen Partnern. Bald wird ein Deal abgeschlossen – ein Vertrag über 100 Mio. USD zwischen diesen Unternehmen wird erwartet. Problem mit den NVIDIA-Acceleratoren Aktuelle NVIDIA-Chips liefern nicht immer die benötigte Leistung beim Inferenz (Verwendung bereits trainierter Modelle). OpenAI sucht eine Alternative.

Wie neue Lösungen entwickelt werden
1. OpenAI → Cerebras + Groq

- Das Unternehmen möchte bis zu 10 % seiner Acceleratoren durch Chips von Drittanbietern ersetzen, die besser für Inferenz geeignet sind.

- Die Partnerschaft mit Cerebras ist bereits abgeschlossen: OpenAI wird bei ihnen „König‑Acceleratoren“ kaufen, die hervorragend in der Verarbeitung großer Sprachmodelle sind.

2. Groq und Nvidia

- Im vergangenen Jahr erwarb NVIDIA Groq für 20 Mio. USD und bot eine vorteilhaftere Dealstruktur an.

- Nach dem Kauf verlor Groq einen Teil seiner Autonomie: Die meisten Accelerator‑Entwickler wechselten in den NVIDIA-Staffel, der Rest des Unternehmens kann nun nur noch Software für Cloud-Systeme verkaufen.

3. AMD und andere Optionen

- OpenAI ist weiterhin stark von NVIDIA‑ und AMD‑Acceleratoren abhängig, die externe HBM‑Speicher nutzen.

- Für Inferenz sind Chips mit größerem integriertem Speicher besser geeignet – genau solche bieten Groq, Cerebras und Google an.

Warum das alles wichtig ist
- Die Effizienz der Inferenz ist entscheidend für den Betrieb großer Sprachmodelle (ChatGPT, Codex).

- Das Problem bei Codex – bei der Entwicklung des KI‑Agents Codex stieß OpenAI auf die Ineffizienz von NVIDIA‑Acceleratoren. Dies unterstreicht die Notwendigkeit eines Hardwarewechselns.

- Die zukünftige Alternative – OpenAI plant, Cerebras‑Lösungen und möglicherweise weitere Chips zu nutzen, um die Leistung seiner Entwicklerwerkzeuge zu steigern.

Ergebnisse
OpenAI sucht aktiv nach neuen technologischen Partnern, um nicht vollständig von NVIDIA abhängig zu sein. Parallel entwickelt das Unternehmen eine Investitionsstrategie in Startups (Cerebras, Groq) und prüft große Deals mit NVIDIA sowie potenzielle Investitionen bis 100 Mio. USD. Das wird die Inferenz verbessern und die Entwicklung von KI‑Produkten beschleunigen.