此芯科技与众智FlagOS共建Agentic AI端侧芯生态

近日，此芯科技联合众智FlagOS社区宣布，双方基于此芯P1芯片，在FlagOS 2.1版本中首次实现了对Arm64架构的原生支持，成功打通“模型-系统-芯片”三层贯通链路，为Agentic AI端侧技术生态的规模化部署构筑起软硬件高效协同的开源底座。

FlagOS 首次原生支持 Arm64

在FlagOS 2.1版本中，社区首次实现对Arm64 CPU的原生支持，打通从算子库到编译器的端侧推理全栈，将FlagOS的算力版图从云端AI加速器，正式扩展至边缘CPU场景。

而这一成果得以落地的核心平台，正是此芯科技基于Armv9.2架构的高性能智能体CPU——此芯P1。该版本针对Arm64架构的全栈适配、优化与性能验证工作，均围绕此芯P1的硬件能力完成。这也是此芯科技与FlagOS社区基于P1平台达成的首个重要合作成果。

全栈重构，释放异构算力效能

让大模型在边缘设备上高效运行，关键在于释放端侧SoC的异构算力，必须从编译器到指令级层层深入优化。

为此，FlagOS 2.1搭建了一套从Triton内核直达Arm64指令的完整方案：统一编译器FlagTree新增CPU后端，Triton TLE拓展出6个覆盖注意力、归一化、激活等热点的扩展算子，并自动匹配NEON/SVE2/I8MM等Armv9.2扩展指令、自管多核线程调度，最大化释放边缘SoC大小核异构算力。

此次性能优化的高效落地，得益于此芯P1对SVE2、I8MM等端侧高性能扩展指令的完整支持——强大的硬件基础，是性能得以释放的前提。同时，整套方案完全基于开源编译器栈，无任何厂商闭源算子库依赖，链路透明、自主可控。

pic 清晰版.png

Agentic AI在此芯P1开发板上的端侧运行画面

WAIC 2026：与llama.cpp主创共话端侧AI

在2026世界人工智能大会期间，FlagOS社区举办了以“llama.cpp主创谈项目历程与FlagOS协同之路”为主题的直播活动。此芯科技首席生态官周杰受邀参加，与llama.cpp核心主创及其他嘉宾共同探讨llama.cpp以及端侧AI的现状与未来。

端侧AI对于隐私保护和安全有较大优势，周杰谈到，端侧AI的价值还体现在低时延与能效成本两个现实维度：实时场景只有本地推理才能更好地满足即时响应，而基于Arm架构SoC的端侧设备功耗更低、规模化成本优势明显。

AI版.png

此芯科技首席生态官周杰（右二）参与直播活动

直播回放链接：https://weixin.qq.com/sph/AMzxKFu65W

在端侧AI落地过程中，行业普遍存在的AI推理引擎碎片化问题，大幅增加了开发者的适配与维护成本。llama.cpp作为目前最流行的端侧LLM开源推理框架，提供CPU、GPU等多种硬件后端支持，并在最新版本中默认集成UI支持，进一步提升了开发者的使用体验。为了更好地推动llama.cpp主线支持更多端侧AI芯片，面向多元AI硬件的FlagOS统一系统软件平台将发挥重要作用，此芯科技也将积极参与推动相关合作。

展望未来，开源开放与标准化将是Agentic AI生态演进的核心趋势，而易于开发者使用的统一AI软件栈将进一步加速应用落地。此芯科技将联合FlagOS社区和上下游合作伙伴共建Agentic AI端侧芯生态，赋能广大开发者，实现软硬件协同创新。