針對端側大語言模型應用，加快邊緣AI生態發展

芯原股份（芯原，股票代號：688521.SH）近日宣布與谷歌共同推出針對端側大語言模型應用的Coral NPU IP。該IP以谷歌在開放機器學習編譯器方面的基礎研究成果為基礎，並結合AI的安全特性進行了強化，為開發者提供統一的開放原始碼技術平台，以建構強大的邊緣AI生態系統。

Coral NPU以RISC-V開放指令集架構標準為基礎建構，引進原生張量處理能力，支援主流機器學習架構，如JAX、PyTorch和TensorFlow Lite（TFLite），並採用以開放標準為基礎的工具，例如來自低階虛擬機器（LLVM）專案的多級中間表示（MLIR），充當編譯器基礎架構。其設計針對超低功耗、始終連線的邊緣AI應用，尤其適用於穿戴式裝置和泛在感知系統。

Coral NPU IP已在谷歌開發者網站開放原始碼，針對全球開發者開放。芯原將供應商業化的企業級IP版本，並結合自身豐富的IP儲備以及晶片設計與驗證能力，為客戶的相關晶片提供一站式晶片客製化等服務。目前，芯原正在開發以Coral NPU IP為基礎的驗證晶片，針對AI/AR眼鏡與智慧家庭等應用，以加快大語言模型在邊緣側的部署。

芯原執行副總裁、客製化晶片平台事業部總經理汪志偉表示：「此次專案以我們在Open Se Cura開放原始碼專案上的既有經驗為基礎，也代表谷歌開放原始碼技術與芯原在晶片設計和產業化支援上的持續深度合作。芯原將繼續發揮在晶片設計、驗證及系統級最佳化方面的優勢，推動邊緣AI生態建設，推動開放原始碼技術在實際終端產品中的應用，並為產業創新提供強力支援。」

關於芯原

芯原微電子（上海）股份有限公司（芯原股份，688521.SH）是一家憑藉自主半導體IP，為客戶提供平台化、全方位、一站式晶片客製化服務和半導體IP授權服務的企業。

​