Una critica all'IA locale mentre la memoria scarseggia
Ospite di John Collison a Cheeky Pint il 29 ottobre, Sam Altman ha discusso della carenza di risorse informatiche e del prezzo dei componenti. La conversazione ha poi toccato un'idea: eseguire modelli aperti sui personal computer per dipendere meno dalle infrastrutture remote.
Il dirigente di OpenAI giudica «piuttosto pessima» questa distribuzione della DRAM se ciascuno ne immobilizza una quantità importante in una macchina utilizzata solo «il 5% del tempo». Preferisce un utilizzo il più intensivo possibile nel cloud, dove la stessa infrastruttura serve molti clienti. La trascrizione ufficiale colloca chiaramente questa osservazione nel dibattito sull'inferenza locale.
Non chiede ai privati di smettere di acquistare RAM e non annuncia alcuna misura per limitarne l'accesso. Difende una scelta di allocazione delle risorse favorevole alla condivisione nei data center.
Intervista completa: Cheeky Pint, con Sam Altman e John Collison. La discussione sulla memoria e sull'IA locale si trova intorno al minuto 29.
Il dato del 5% non è una misurazione dei nostri PC
Nel passaggio non viene presentato alcuno studio né confronto numerico con i data center a sostegno di questa percentuale. È una stima avanzata da Altman.
L'argomento della condivisione delle risorse merita di essere discusso, ma il tasso di utilizzo di una macchina non ne riassume l'utilità. Un PC serve anche per giocare, lavorare, navigare o creare. La capacità di memoria disponibile per assorbire un carico occasionale può avere valore anche se non viene sfruttata costantemente. Allo stesso modo, un server condiviso deve mantenere risorse disponibili per i picchi di domanda e la continuità del servizio.
I produttori confermano la pressione dei server IA
Il contesto industriale, invece, è documentato. Nei suoi risultati del terzo trimestre pubblicati il 29 ottobre, Samsung spiega di privilegiare i prodotti di memoria destinati all'IA in un contesto di capacità limitata. Il gruppo collega la forte domanda dei server all'aumento dei prezzi in tutte le applicazioni e prevede di rafforzare ulteriormente le vendite di HBM, DRAM per server e SSD.
Il 28 ottobre, SK hynix ha dichiarato di aver concluso accordi a lungo termine con 14 grandi clienti, corrispondenti a oltre la metà della propria capacità produttiva per il 2027 e il 2028. Il produttore si aspetta che la domanda superi l'offerta fino al 2030, considerate le difficoltà tecniche e il tempo necessario per costruire nuove fabbriche. Si tratta di una sua previsione, non di una scadenza certa per la fine della carenza.
Questi annunci mostrano perché il tema riguarda direttamente i lettori che assemblano o aggiornano un PC. Non permettono però di attribuire a una sola azienda una quota precisa dell'aumento del prezzo di un kit DDR5 in negozio.
OpenAI è a sua volta parte di questa domanda
Già il 1º ottobre 2025, OpenAI ha annunciato partnership con Samsung e SK nell'ambito di Stargate. Il comunicato parla di un aumento della capacità che punta ad avviare la produzione di 900.000 wafer DRAM al mese, per accompagnare le esigenze dei modelli di IA.
Questa formulazione descrive un obiettivo industriale. Non significa che OpenAI riceva già ogni mese quel volume di chip, né che abbia acquistato altrettanti moduli di memoria destinati ai privati. Lo stesso comunicato annunciava anche accordi per studiare nuove capacità di data center in Corea, con diversi dettagli ancora da definire.
La posizione di Altman è quindi coerente con gli investimenti della sua azienda: sviluppare un'infrastruttura centralizzata capace di servire molti utenti. Questo interesse economico deve restare evidente quando si valuta il suo argomento sul miglior utilizzo della memoria disponibile.
Il cloud non sostituisce tutti i vantaggi dell'IA locale
L'inferenza locale risponde anche a esigenze di controllo dei dati, autonomia e disponibilità senza una connessione permanente, una volta installato il modello. Per un esempio concreto, la documentazione di Ollama precisa che i prompt e i dati dei modelli eseguiti localmente non vengono trasmessi a Ollama; anche le sue funzioni cloud possono essere disattivate.
Questi vantaggi hanno una contropartita: l'hardware disponibile limita i modelli utilizzabili, l'utente si occupa dell'installazione e sostiene il costo della macchina. Il cloud facilita l'accesso a risorse maggiori e la loro condivisione. La scelta dipende quindi dalla frequenza d'uso, dalle dimensioni del modello, dal budget e dai requisiti di riservatezza.
Un esempio (l'ASUS Ascent GX10 che abbiamo presentato) illustra proprio questa strada alternativa: dedicare risorse a un'IA eseguita a casa propria o nella propria azienda. La discussione non si limita quindi al numero di gigabyte impiegati, ma riguarda anche chi possiede l'hardware e mantiene il controllo sul suo utilizzo.
In sintesi
Condividere le risorse di memoria può migliorarne l'utilizzo su larga scala. Questo non basta a screditare il personal computer o l'IA locale, tra i cui vantaggi figurano il controllo dei dati e dell'hardware.