淺析麥肯錫的Lilli：為企業AI市場提供了哪些發展點子？

麥肯錫的Lilli 案例為企業AI 市場提供了關鍵發展思路：邊緣運算+ 小模型潛在的市場機會。這個整合了10 萬份內部文件的AI 助手，不僅獲得了70% 員工的採用率，而且平均每週使用17 次，這種產品黏性在企業工具中實屬罕見。以下，談談我的思考：

1）企業資料安全是痛點：麥肯錫100 年累積的核心知識資產以及一些中小企業累積的特定資料都有極強資料敏感性，都不是和在公有雲上處理。如何探索一種「數據不出本地，AI 能力不打折」的平衡狀態，就是實際市場剛需。邊緣運算是個探索方向；

2）專業小模型會取代通用大模型：企業用戶需要的不是"百億參數、全能型"的通用模型，而是能精準解答特定領域問題的專業助手。相較之下，大模型的通用性與專業深度之間存在自然矛盾，企業場景下往往更重視小模型；

3）自建AI infra 和API 呼叫的成本平衡：儘管邊緣運算和小模型的組合雖然前期投入較大，但長期營運成本顯著降低。試想若45,000 名員工高頻使用的AI 大模型來自於API 調用，這產生的依賴，使用規模和品論的增加都會使得自建AI infra 成為大中型企業的理性選擇；

4）邊緣硬體市場的新機會：大模型訓練離不開高階GPU，但邊緣推理對硬體的需求則完全不同。高通、聯發科等晶片廠商針對邊緣AI 優化的處理器正迎來市場良機。當每個企業都想打造自己的"Lilli"，專為低功耗、高效率設計的邊緣AI 晶片將成為基礎設施的必需品；

5）去中心化web3 AI 市場也同步增強：一旦企業在小模型上的算力、微調、演算法等需求被帶動起來，如何平衡資源調度就會成為問題，傳統的中心化的資源調度會成為難題，這直接會給web3AI 去中心化小模型微調網絡，去中心化算力服務平台等等帶來很大的市場需求；

當市場仍在討論AGI 的一般能力邊界時，更喜聞樂見看到許多企業端用戶已經在挖掘AI 的實用價值。顯然，相較於過去比拼算力、演算法的資源壟斷式躍進，當市場把重心放到邊緣運算+ 小模型方式時，會帶來更大的市場活力。