In Breve
- Che cos'è ZML LLMD?
- ZML LLMD è un server di inferenza progettato per eseguire modelli di linguaggio su diversi chip.
- Qual è l'obiettivo di ZML con LLMD?
- L'obiettivo è permettere l'uso di mix di chip per migliorare l'efficienza nell'IA.
- Chi ha finanziato ZML?
- ZML ha raccolto 20 milioni di dollari da vari investitori, tra cui 20VC e Kima Ventures.
La startup francese ZML ha recentemente lanciato LLMD, un server di inferenza innovativo progettato per eseguire modelli open source di linguaggio su una vasta gamma di chip, tra cui Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Questo prodotto, disponibile gratuitamente al lancio, rappresenta un passo significativo verso la riduzione dei vincoli software e architetturali che spesso limitano le scelte delle aziende, favorendo invece un ambiente più flessibile e performante.
Il fondatore di ZML, Steeve Morin, ha dichiarato: «L’idea è restituire alle persone il potere di creare il proprio sistema e ottenere reali guadagni di efficienza che permettano la diffusione dell’IA». Con LLMD, l’obiettivo è consentire a imprese e operatori cloud di utilizzare mix di chip, anche quelli meno costosi o più efficienti dal punto di vista energetico, per ottenere miglioramenti significativi nelle prestazioni.
ZML non si limita a offrire un prodotto, ma si propone anche di collaborare con nuovi produttori di chip, molti dei quali sono europei. Tra i nomi citati da Morin ci sono Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. «Siamo arrivati al punto in cui stiamo co-progettando il silicio», ha aggiunto Morin, sottolineando l’importanza della collaborazione nell’innovazione tecnologica.
Il lancio di LLMD avviene in un contesto di crescente competitività nel settore, con operatori come Baseten, Inferact e RadixArk, oltre a progetti open source come vLLM e SGLang che offrono funzionalità simili. Nonostante ciò, ZML continua a mantenere rapporti con Nvidia, un attore chiave nel mercato dei chip per intelligenza artificiale.
Con sede a Parigi e un team di circa 20 persone, ZML ha raccolto un capitale di 20 milioni di dollari da investitori di rilievo come 20VC, commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures. Morin, che in precedenza ha ricoperto il ruolo di VP of Engineering di Zenly (acquisita da Snapchat nel 2017), ha spiegato che il rilascio gratuito di LLMD serve a misurare l’utilizzo prima di stabilire eventuali politiche commerciali: «Preferisco misurare e poi generare ricavi dove è più efficace, senza ostacolare stupidamente la crescita perché sono stato troppo avido fin dall’inizio».
Il supporto di figure influenti come Solomon Hykes, Clément Delangue, Julien Chaumond e Yann LeCun testimonia l’interesse crescente verso l’ecosistema tecnologico europeo. Morin ha inoltre sottolineato che la realizzazione di ZML non sarebbe stata possibile senza il contesto innovativo di Parigi.
