In Breve
- Qual è la previsione di LinkedIn per l'investimento in GPU?
- LinkedIn prevede di mantenere invariato l'investimento in GPU per il prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti in sei mesi grazie a miglioramenti nell'utilizzo e nella gestione dei carichi di lavoro.
- Qual è l'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso rispetto a Microsoft, evitando un'espansione infrastrutturale massiccia.
LinkedIn ha annunciato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente piatto, con l’impronta di calcolo e storage mantenuta all’incirca invariata.
La società ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in circa sei mesi, grazie a miglioramenti cumulativi nell’utilizzo delle GPU, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. LinkedIn intende impiegare questo margine operativo per sviluppare nuove funzionalità anziché investire in nuovo hardware.
Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo come la capacità di mantenere stabile il footprint di calcolo pur immettendo in produzione funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distingue dalla strategia di espansione infrastrutturale di Microsoft, che controlla LinkedIn dal 2016 e ha registrato spese in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha puntato su data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza incremento di storage e compute è «non una piccola impresa» e ha richiesto un lavoro significativo. I miglioramenti ottenuti sono presentati come il risultato di un processo accumulativo piuttosto che di una singola innovazione tecnologica. Questi includono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più complessi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.
Il cambiamento è anche motivato dalla dinamica dei costi: il costo per singola query era in aumento mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza che LinkedIn ha giudicato insostenibile. Sebbene la società non affermi di aver risolto definitivamente il problema, la scelta di mantenere stabile l’investimento in hardware rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sua rilevanza dipenderà dalla capacità del programma di efficienza di sostenersi nel tempo.
