高效端侧运算 小米推出玄戒O100 AI加速芯片

小米推出自研AI加速芯片玄戒O100,据小米方面介绍,玄戒O100为6nm工艺端侧专用AI加速芯片,可与玄戒O3协同工作,提升设备端侧大模型推理速度,支持弱网、离线场景AI运算。

PChome 8月24日报道,小米凭借MiMo大模型的出色表现,跻身全球顶尖大模型行列。而为了发挥出大模型能力,为消费者打造更具安全性和隐私性的端侧使用体验,小米特意打造了玄戒O100自研AI加速芯片。

据小米方面介绍,玄戒O100为6nm工艺端侧专用AI加速芯片,可与玄戒O3协同工作,提升设备端侧大模型推理速度,支持弱网、离线场景AI运算。

该芯片采用3D Wafer On Wafer立体堆叠工艺与Hybrid Bonding键合技术,将两层DRAM晶圆与一层NPU计算晶圆堆叠融合,内置258万个键合节点,节点间距1.4μm,内存互联规格优于常规云端HBM方案。而这会带来史无前例的带宽与传输速度。

玄戒O100能带来16倍于常规手机的内存带宽,端侧大模型最高推理速度可达330Token/s。内置14核大模型专用NPU,搭配XRING HB-Matrix高带宽矩阵总线,提升多核心协同运算效率。

官方表示,该芯片在研发阶段完成多轮版图迭代,解决晶圆堆叠翘曲、碎裂等工艺难题,F2F金属层直连结构已获得多项技术专利。

玄戒O100目前已研发完成,将于2027年正式商用。搭载玄戒O3+玄戒O100的原型机也已经公布,其能够进行双芯片协同计算,内置风冷散热,并内置MiMo端侧模式,能够为创新的断则AI体验,提供平台级支持。

也许你还喜欢

鸿蒙装机量突破8000万 稳居国内第

据奇妙工具箱数据显示,华为HarmonyOS系统手机装机量已正式

暗黑2重制版没捡到任务道具解决办

《暗黑破坏神2:重制版》一些任务是奖励技能点以及属性点的,不过可

全面战争战锤3无损攻城技巧

全面战争战锤3攻城难度很高,在战斗中会损失大量的军队,那么目前版

发挥模型能力 OPPO携手支付宝探索

OPPO与支付宝围绕A2A智能体协同展开深度合作,首创端侧可信互

艾尔登法环王朝悬崖刷魂攻略

《艾尔登法环》中的魂也就是卢恩是玩家升级的道具,游戏中的王朝悬崖

全面战争战锤3恶魔亲王传统守家南

全面战争战锤3的恶魔亲王是混沌恶魔派系领主,今天小编为大家带来了

OPPO Find X10系列屏幕升级 支持BT

有爆料信息显示,OPPO下一代旗舰Find X10系列将在屏幕素

艾尔登法环龙魔法桂奥尔咆哮获取路

《艾尔登法环》中龙魔法基本上都很强,奥尔咆哮就是一个可以大范围的

全面战争战锤3纳垢派系运营玩法攻

《全面战争:战锤3》纳垢派系包含领主瘟父,这是个在本作比较强力的

华为MatePad Pro 12.2英寸评测:专业

华为MatePad Pro 12.2英寸可以说是移动办公的理想伴