In Breve
- Qual è la strategia di LinkedIn per l'investimento in GPU?
- LinkedIn manterrà invariato l'investimento in GPU per il prossimo anno fiscale, puntando su efficienza e sviluppo di nuove funzionalità.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti in sei mesi grazie a miglioramenti nell'utilizzo e nella distillazione dei modelli.
- Qual è il contesto dell'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso rispetto all'espansione infrastrutturale di Microsoft, che ha registrato spese significative per nuovi data center.
LinkedIn ha comunicato che nel prossimo anno fiscale non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale. L’investimento in GPU rimarrà sostanzialmente piatto, e l’impronta di calcolo e storage sarà mantenuta all’incirca invariata. Questa decisione è frutto di un’ottimizzazione delle risorse già esistenti, con la società che riferisce di aver raddoppiato l’efficienza delle GPU in circa sei mesi.
Erran Berger, CTO per l’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo, pur introducendo nuove funzionalità che richiedono maggiori risorse computazionali. LinkedIn, controllata da Microsoft dal 2016, adotta un approccio differente rispetto all’espansione infrastrutturale del colosso tecnologico, che ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’intero anno.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, ma questo è stato sospeso nel 2022. La società ha quindi deciso di puntare su data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è visto come un fattore chiave per monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e calcolo per un anno è «non una piccola impresa» e ha richiesto un notevole sforzo. I miglioramenti ottenuti sono il risultato di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Ciò include un migliore utilizzo delle GPU, una riallocazione dei carichi di lavoro e la distillazione di modelli più complessi in versioni più compatte.
Questa strategia è anche una risposta alla crescente dinamica dei costi, con il costo per singola query in aumento e la quantità di dati immagazzinati che raddoppia ogni anno, una tendenza che LinkedIn giudica insostenibile. Tuttavia, la società non afferma di aver risolto definitivamente il problema; la scelta di non aumentare l’hardware rappresenta un’alternativa alla crescita proporzionale dell’hardware, e la sua efficacia dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.
