Kritik an lokaler KI bei angespannter Speicherversorgung
Sam Altman war bei John Collison zu Gast in Cheeky Pint am 29. Oktober. Dort sprach er über den Mangel an Rechenressourcen und die Preise für Komponenten. Dabei kam eine Idee zur Sprache: offene Modelle auf privaten Computern auszuführen, um weniger von entfernter Infrastruktur abhängig zu sein.
Der OpenAI-Chef hält diese Verteilung von DRAM für „ziemlich schrecklich“, wenn jeder eine große Menge davon in einer Maschine bindet, die nur „5 % der Zeit“ genutzt wird. Er bevorzugt eine möglichst intensive Nutzung in der Cloud, wo dieselbe Infrastruktur viele Kunden bedient. Das offizielle Transkript ordnet diese Bemerkung klar in die Debatte über lokale Inferenz ein.
Er fordert Privatpersonen nicht dazu auf, keine RAM-Module mehr zu kaufen, und kündigt auch keine Maßnahmen an, die den Zugang dazu einschränken würden. Er plädiert für eine Ressourcenverteilung zugunsten der gemeinsamen Nutzung in Rechenzentren.
Vollständiges Interview: Cheeky Pint mit Sam Altman und John Collison. Die Diskussion über Speicher und lokale KI beginnt ungefähr bei Minute 29.
Die 5-%-Angabe ist kein Messwert für unsere PCs
In diesem Abschnitt wird weder eine Studie noch ein zahlenbasierter Vergleich mit Rechenzentren angeführt, um diesen Wert zu stützen. Es handelt sich um eine Schätzung von Altman.
Das Argument für die gemeinsame Ressourcennutzung verdient eine Diskussion, doch die Auslastung einer Maschine beschreibt nicht ihren gesamten Nutzen. Ein PC dient auch zum Spielen, Arbeiten, Surfen oder für kreative Aufgaben. Freie Speicherkapazität für eine gelegentliche Last kann wertvoll sein, selbst wenn sie nicht ständig beansprucht wird. Umgekehrt muss auch ein gemeinsam genutzter Server Ressourcen für Nachfragespitzen und einen unterbrechungsfreien Betrieb vorhalten.
Hersteller bestätigen den Druck durch KI-Server
Der industrielle Hintergrund hingegen ist dokumentiert. In Samsungs am 29. Oktober veröffentlichten Ergebnissen für das dritte Quartal heißt es: Der Konzern priorisiert Speicherprodukte für KI in einem Umfeld begrenzter Kapazitäten. Er bringt die starke Servernachfrage mit Preissteigerungen in sämtlichen Anwendungsbereichen in Verbindung und plant, seine Verkäufe von HBM, Server-DRAM und SSDs weiter auszubauen.
Am 28. Oktober teilte SK hynix seinerseits mit, langfristige Vereinbarungen mit 14 Großkunden abgeschlossen zu haben, die mehr als die Hälfte seiner Produktionskapazität für 2027 und 2028 abdecken. Der Hersteller erwartet angesichts technischer Herausforderungen und der Bauzeit neuer Fabriken, dass die Nachfrage bis 2030 das Angebot übersteigen wird. Das ist seine Prognose, kein gesicherter Zeitpunkt für das Ende der Knappheit.
Diese Ankündigungen zeigen, warum das Thema Leser, die einen PC zusammenstellen oder aufrüsten, unmittelbar betrifft. Sie erlauben es jedoch nicht, einem einzelnen Unternehmen einen bestimmten Anteil am Preisanstieg eines DDR5-Kits im Handel zuzuschreiben.
OpenAI trägt selbst zu dieser Nachfrage bei
Bereits am 1. Oktober 2025 kündigte OpenAI Partnerschaften mit Samsung und SK im Rahmen von Stargate an. Die Mitteilung beschreibt einen Kapazitätsausbau mit dem Ziel, monatlich 900.000 DRAM-Wafer in die Fertigung zu geben, um den Bedarf von KI-Modellen zu decken.
Diese Formulierung beschreibt ein industrielles Ziel. Sie bedeutet weder, dass OpenAI bereits jeden Monat diese Menge an Chips erhält, noch, dass das Unternehmen ebenso viele Speichermodule für Privatkunden gekauft hat. Dieselbe Mitteilung kündigte auch Vereinbarungen zur Prüfung neuer Rechenzentrumskapazitäten in Korea an, bei denen noch mehrere Einzelheiten zu klären waren.
Altmans Position steht damit im Einklang mit den Investitionen seines Unternehmens: eine zentralisierte Infrastruktur aufzubauen, die viele Nutzer bedienen kann. Dieses wirtschaftliche Interesse sollte bei der Bewertung seines Arguments zur bestmöglichen Nutzung des verfügbaren Speichers berücksichtigt werden.
Die Cloud ersetzt nicht alle Vorteile lokaler KI
Lokale Inferenz erfüllt auch Anforderungen an Datenkontrolle, Unabhängigkeit und Verfügbarkeit ohne dauerhafte Verbindung, sobald das Modell installiert ist. Ein konkretes Beispiel liefert die Ollama-Dokumentation mit dem Hinweis, dass Prompts und Daten lokal ausgeführter Modelle nicht an Ollama übertragen werden; auch die Cloud-Funktionen lassen sich deaktivieren.
Diese Vorteile haben ihren Preis: Die verfügbare Hardware begrenzt die nutzbaren Modelle, die Nutzer übernehmen die Installation und tragen die Kosten der Maschine. Die Cloud erleichtert den Zugang zu größeren Ressourcen und deren gemeinsame Nutzung. Die Wahl hängt daher von Nutzungshäufigkeit, Modellgröße, Budget und Datenschutzanforderungen ab.
Ein Beispiel (der von uns vorgestellte ASUS Ascent GX10) veranschaulicht genau diesen anderen Weg: Ressourcen für eine KI bereitzustellen, die zu Hause oder im eigenen Unternehmen ausgeführt wird. Es geht in der Diskussion also nicht nur um die Zahl der genutzten Gigabyte, sondern auch darum, wem die Hardware gehört und wer die Kontrolle über ihren Einsatz behält.
Fazit
Die gemeinsame Nutzung von Speicher kann dessen Auslastung im großen Maßstab verbessern. Das reicht jedoch nicht aus, um PCs oder lokale KI abzuschreiben: Zu ihren Vorteilen zählt die Kontrolle über Daten und Hardware.