2024/10/02

Liquid AI 又給我們帶來了AI model 的驚喜

  AI model 的進步和競爭是超級激烈的。除了 Meta Google OpenAI Claude 之外,現在又多了 Liquid AI ,發表了新一代生成式AI 模型 LFM (Liquid Fundation Model),特別的是它不是用Transformer ,在記憶體的消耗上有特別的表現,LFM 1.3B, 3B 小模型的評比也相當優秀。

    https://www.liquid.ai/liquid-foundation-models

也可以在官方網站試試其表現,我對其回應速度真的有驚訝到。在大公司都在比拚大模型,Transformer 參數量已經大到一般個人電腦或小型伺服器都很難執行推論。之前Mamba 的出現我已經嗅到該是有其它方案推出的時候了,因為Nvidia 的產品實在太貴,小公司實在負擔不起,許多企業對雲端AI運算實在不放心,深怕自己的資料外流。能落地在自家公司內部主機運行就要讓模型更小。

     目前看來,這家的模型不是開源。