近日,由百度文心大模型、飞桨星河社区、安谋科技和此芯科技联合举办的「高能效异构算力加持,基于此芯P1的文心和飞桨模型部署实战」线下工作坊在上海成功落幕。此芯科技与业界伙伴强强联合,现场展示了基于其此芯P1处理器的强大端侧AI解决方案,为致力于打造下一代智能硬件的开发者们,带来了关于性能、能效与产业化实践的深度洞察。
为降低开发门槛,加速AI应用创新,此芯科技在ModelHub中汇聚了丰富的模型资源,全面覆盖从CV到LLM等多个领域。开发者可灵活调用这些经过预适配的模型,快速构建并实现多样化的边缘和端侧场景应用,极大降低了开发门槛。
活动现场,此芯科技AI技术专家田洋带来端侧大模型部署实战分享,深入剖析AI模型在端侧部署的挑战,重点解读了基于此芯P1处理器的高效LLM端侧部署方案,在搭载Armv9 CPU、Arm Immortalis GPU以及安谋科技自研“周易”NPU IP的“瑞莎星睿O6”开发套件上,实战演示如何在本地部署文心大模型和PaddleOCR模型,以及深入分享AI开发实践经验,与开发者共同探索端侧AI应用“芯”生态。
此芯科技AI技术专家 田洋 在随后的现场实战环节,开发者们亲手体验了ERNIE-4.5-21B-A3B大模型的流畅推理与PaddleOCR“看图识字”功能的迅捷响应,而此芯P1出色的端侧运行速度也赢得了开发者广泛赞誉,现场更不乏“开发板实战性能惊艳”的高度评价,直观印证了此芯技术方案在端侧AI算力上的实力。 现场技术答疑 本次工作坊为开发者搭建了深度交流的平台,更通过扎实的实战演练,验证了异构计算赋能端侧AI部署的可行路径。此芯科技将继续致力于打磨高能效算力解决方案,与开发者及生态伙伴一道,加速智能应用在端侧的技术创新与规模化落地。


此芯科技与微纳核芯达成战略合作|协同主控与推理,共探边缘智能计算新路径

首家!此芯科技通过“端侧智能一体机测试”

此芯科技携手众智FlagOS,实现Day0适配MiniCPM-OCR & Jev,让文档“AI质检员”跑上端侧

Give Me Five | 秋意赴约,此芯科技五周年家庭日温暖收官

此芯P1系列多形态终端亮相Omarchy深圳站,助力Linux桌面融入开发者工作流

崂山区引进企业协同创新 国产算力设备助力数据要素可信流通

从Agentic Compute到真实场景共创:此芯P1助力联想AI主机P7预览版本地千亿级大模型运行

合作共赢 | 此芯科技×聆思科技达成战略合作,联合定义行业领先的端侧Agent算力方案