LinkedIn: Investimenti in GPU Stabili per il Prossimo Anno Fiscale

LinkedIn ha annunciato che non prevede di aumentare significativamente la spesa per l’hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, mentre l’impronta di calcolo e storage sarà mantenuta all’incirca allo stesso livello attuale.

Secondo quanto riportato, la società ha raddoppiato l’efficienza delle GPU esistenti in un periodo di sei mesi, grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. LinkedIn intende utilizzare questo margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.

Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo dell’azienda come la capacità di mantenere stabile il footprint di calcolo, pur introducendo in produzione funzionalità più esigenti dal punto di vista computazionale.

Questa strategia si colloca in un contesto in cui LinkedIn è controllata da Microsoft dal 2016, ma ha scelto un approccio differente rispetto all’espansione infrastrutturale aggressiva del colosso tecnologico. Microsoft ha registrato 41 miliardi di dollari di spesa in conto capitale nell’ultimo trimestre, ha aggiunto 31 data center e prevede ulteriori investimenti significativi.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di concentrarsi su data center propri situati in Oregon, Texas e Virginia, ritenendo che il controllo sull’intero stack tecnologico sia un fattore abilitante per monitorare e ottimizzare ogni livello, considerandolo un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere stabili storage e compute per un intero anno è «non una piccola impresa» e ha richiesto un significativo sforzo. I miglioramenti ottenuti sono il risultato di un processo cumulativo piuttosto che di una singola innovazione tecnologica. Questi includono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più complessi in versioni più piccole.

La decisione di LinkedIn è anche influenzata dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava annualmente, una tendenza considerata insostenibile. Sebbene LinkedIn non affermi di aver risolto definitivamente il problema, questa scelta rappresenta un’alternativa alla crescita proporzionale dell’hardware, la cui efficacia dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.