In Breve
- Qual è la previsione di LinkedIn per la spesa in GPU?
- LinkedIn prevede di mantenere invariato l'investimento in GPU per il prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è la strategia di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso rispetto all'espansione infrastrutturale di Microsoft, mantenendo il controllo dei propri data center.
LinkedIn ha annunciato che non prevede di aumentare significativamente la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente piatto, con l’impronta di calcolo e storage mantenuta invariata. Questa decisione è stata motivata da un raddoppio dell’efficienza delle GPU esistenti, ottenuto in circa sei mesi grazie a miglioramenti nell’utilizzo delle risorse e nell’allocazione dei carichi di lavoro.
Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è quello di mantenere stabile il footprint di calcolo, permettendo al contempo l’introduzione di nuove funzionalità più esigenti dal punto di vista computazionale. Questo approccio si discosta dalla strategia di espansione infrastrutturale di Microsoft, che controlla LinkedIn dal 2016. Infatti, Microsoft ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno, con previsioni di ulteriori investimenti superiori ai 50 miliardi nel trimestre corrente.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo completo dell’intero stack tecnologico è considerato un fattore chiave, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e calcolo per un anno è un compito significativo, che ha richiesto un notevole sforzo. I miglioramenti ottenuti non sono il risultato di una singola innovazione tecnologica, ma piuttosto di un approccio accumulativo che include un migliore utilizzo delle GPU, una riallocazione dei carichi di lavoro, la distillazione di modelli di intelligenza artificiale più complessi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.
Questa scelta strategica è stata influenzata anche dalla crescente dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza che LinkedIn ha giudicato insostenibile. Sebbene la società non affermi di aver risolto definitivamente il problema, questa strategia rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.
