近日,此芯科技宣布成功完成DeepSeek R1系列模型在此芯P1平台上的端侧异构适配,进一步释放高能效智能算力的潜力,标志着此芯科技在智能算力领域迈出了坚实的一步,为人工智能产业带来更多创新可能。
实现端侧异构赋能
早在2024年5月,DeepSeek V2开源模型发布之际,此芯科技便敏锐地捕捉到这一技术前沿动态,并迅速启动了与此芯SoC的异构适配工作。
时隔不久,DeepSeek R1的正式发布迅速成为AI领域的焦点。DeepSeek R1采用强化学习训练,推理时包含大量反思和验证,思维链长度可达数万字。在数学、代码以及复杂逻辑推理任务上,DeepSeek R1 有着出色的表现,能取得媲美 OpenAI o1 的推理效果,还能为用户展现完整的思考过程。
此芯科技再次展现了高效的技术实力,成功实现了DeepSeek R1系列模型的蒸馏版本在此芯P1平台上的异构适配,包括DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Llama-8B和DeepSeek-R1-Distill-Qwen-14B等版本。
实测数据显示,在此芯P1平台上,DeepSeek-R1-Distill-Qwen-7B模型的推理速度可达10 tokens/s,DeepSeek-R1-Distill-Qwen-1.5B模型的推理速度将近40 tokens/s,展现出强大的端侧AI计算能力。

加速端侧AI应用普及
DeepSeek凭借卓越的算法优化能力,成功降低了AI模型的训练和推理成本,并通过模型蒸馏技术显著提升小模型的运行效率,使其在资源受限的环境下依然具备优异的推理性能。这一突破将进一步加速端侧AI应用的普及。通过此次适配,此芯科技不仅推动了DeepSeek-R1模型在此芯P1平台上的chatbot高效本地部署,同时基于微软VSCode插件调用DeepSeek-R1本地模型作为服务端进行代码辅助生成,突破传统云端依赖,实现本地模型的高速运行,保障数据安全与处理速度。此外,该插件与VSCode编辑器深度整合,开发者无需额外学习成本,即可轻松上手,为开发者们带来了全新的编码体验。

加强端侧AI生态构建
未来,此芯科技将充分发挥此芯P1平台在端侧AI异构算力方面的优势,持续优化AI模型的本地部署方案,并携手产业链上下游合作伙伴,共同推动AI PC等智能终端生态的发展,为人工智能行业注入更多创新动力。此次DeepSeek R1模型的成功适配,不仅提升了此芯科技在端侧智能算力领域的竞争力,也为整个产业链的协同发展提供了有力支撑。在此基础上,此芯科技也将进一步推进DeepSeek Janus Pro多模态大模型的异构适配,进一步拓展端侧AI的应用场景。紧跟时代前沿,此芯科技将继续秉承创新、高效、合作的理念,推动人工智能技术的持续进步,为用户带来更智能、更高效的产品和解决方案。

此芯 P1 助力 OrangePi 6 Plus 全新上市,定义端侧 AI 新标杆

合作共赢 | 此芯科技与福州新区集团签署战略合作协议,赋能AI产业链

直播预告 | 高能效异构算力加持,基于此芯P1的Qwen大模型部署实战

此芯科技出席Arm Unlocked 2025,共探AI计算未来

此芯P1亮相WAVE SUMMIT 2025,助力文心大模型端侧落地

荣誉时刻 | 此芯P1荣获2025年度优秀AI芯片奖

此芯科技联合百度共推边端AI异构算力解决方案

此芯科技出席2025 CCF中国开源大会