In Breve
- Cos'è ZML LLMD?
- ZML LLMD è un server di inferenza progettato per eseguire modelli di linguaggio su vari chip.
- Qual è l'obiettivo di ZML con LLMD?
- L'obiettivo è migliorare l'efficienza nell'uso dell'IA e facilitare la diffusione su hardware eterogeneo.
- Chi ha finanziato ZML?
- ZML ha raccolto 20 milioni di dollari da diversi investitori, tra cui 20VC e Kima Ventures.
La startup francese ZML ha recentemente annunciato il lancio di LLMD, un server di inferenza innovativo progettato per eseguire diversi modelli open source di linguaggio su una vasta gamma di chip, tra cui Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Questo prodotto, disponibile gratuitamente al momento del lancio, non è open source e si propone di superare i vincoli software e architetturali che spesso portano a un lock-in verso fornitori singoli, massimizzando le prestazioni disponibili su hardware eterogeneo.
L’obiettivo di ZML è chiaro: offrire a imprese e operatori cloud la possibilità di utilizzare una combinazione di chip, anche quelli meno costosi o più efficienti dal punto di vista energetico, per ottenere guadagni di efficienza e facilitare la diffusione dell’intelligenza artificiale. “L’idea è restituire alle persone il potere di creare il proprio sistema e ottenere reali guadagni di efficienza che permettano la diffusione dell’IA”, ha dichiarato il fondatore Steeve Morin.
Inoltre, ZML ha espresso la volontà di collaborare con nuovi produttori di chip, molti dei quali europei, citando nomi come Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. Morin ha aggiunto: “Siamo arrivati al punto in cui stiamo co-progettando il silicio”.
Il lancio di LLMD avviene in un contesto di mercato altamente competitivo, con operatori come Baseten, Inferact e RadixArk, oltre a progetti open source come vLLM e SGLang che offrono funzionalità simili. Nonostante la concorrenza, ZML mantiene rapporti con Nvidia, un attore chiave nel settore.
Con sede a Parigi e un team di circa 20 persone, ZML ha raccolto 20 milioni di dollari da investitori di spicco, tra cui 20VC, commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures. Morin, che in precedenza ha ricoperto il ruolo di VP of Engineering di Zenly, acquisita da Snapchat nel 2017, ha sottolineato l’importanza del rilascio gratuito di LLMD: “Preferisco misurare e poi generare ricavi dove è più efficace, senza ostacolare stupidamente la crescita perché sono stato troppo avido fin dall’inizio”.
Tra i sostenitori presenti nel capitale figurano nomi noti come Solomon Hykes, Clément Delangue, Julien Chaumond e Yann LeCun, evidenziando l’interesse crescente verso l’ecosistema tecnologico europeo. Morin ha inoltre affermato che non avrebbe potuto realizzare ZML se non fosse stato per l’ambiente innovativo di Parigi.
