2000 Tokens/s!寒序科技推出国产LPU推理芯片:让权重不再“搬家”
[客户案例] 时间:2026-09-26 17:50:24 来源:怀化玉洁刷业有限公司 作者:产品 点击:161次
8月31日消息,搬家寒序科技今日正式公布uHBM与uLPU推理计算架构,序科芯片成为国内首家将MRAM磁存储与计算单元深度整合的技推芯片公司。其核心思路是出国产:与其把存储和计算之间的路修得更宽,不如让权重直接“住”在计算单元旁边。推理
大模型推理进入Decode阶段后,让权每生成一个Token,重不再数十亿颗权重都要被反复读取。搬家寒序科技的序科芯片方案是将模型权重长期驻留在Persistent MRAM阵列中,在同一颗Compute-Memory Die内完成矩阵-向量运算,技推系统只传递低维激活向量。出国产
首代uHBM架构片内权重读出带宽设计值最高24TB/s。推理面向4B多模态主干模型,让权uLPU的重不再Decode性能目标超过2000 Tokens/s。
产品形态方面,搬家寒序规划了从uHBM-Die、uLPU-Chip到Module、2U Tray和Rack的完整路线。
端侧产品uLPU Edge由uHBM与NPU协同,面向机器人等物理AI场景;云端uLPU Cloud通过UCIe实现片间扩展,借助112G/224G SerDes构建机柜级系统。首代完整工程产品已进入流片前收敛阶段。
寒序科技成立于2023年8月,孵化于北京大学应用磁学中心。其验证芯片SpinPU-ED01已回片,集成120个MRAM Bank,实测片上访存带宽密度达0.105 TB/(mm²·s),并完成端到端模型推理与连续24小时稳定运行。
值得一提的是,24TB/s和2000 Tokens/s目前仍是架构设计值,完整性能、功耗和模型兼容性还需等首代工程产品流片实测才能确定。
寒序科技方面表示,验证芯片回答了“这条路能不能走”,接下来两年的核心任务是把架构真正做成可量产的产品。
(责任编辑:产品中心)
相关内容
- 《GTA6》在英国还能分期购买:可分36期 还是零利率
- 前国足克罗地亚籍老帅伊万科维奇:莫德里奇今年内可能退出国家队,欧国联对阵西班牙或将是他国家队最后演出,未来可能重返皇马
- 至少涨价1500元节奏!苹果18 Pro Max硬件成本比上代大涨近300美元:存储涨价是主因
- 严防球迷骚扰与高原反应:英格兰战墨西哥前隐瞒酒店地址
- 周促狂欢不停!Quantic Dream游戏史低齐放送
- 雷军晒小米科技园澎程定制咖啡 网友:啥时候上线外卖
- 意外!他是谢蒂内本轮公开点名表扬的津门虎本土球员,引发热议
- 特谢拉在本轮中超复出后!首次在社媒发声,已赢得申花球迷点赞
- 男子豪饮1斤白酒开车上高速失控:倒车撞护栏后直接当场大睡
- 加盟智界的前法拉利设计师身份揭晓!Werner Gruber 曾操刀设计拉法、FXX
- 穆里尼奥力挺马丁内斯换下C罗:决定英明且勇敢,球队利益至上
- NVIDIA下代CPU Rosa被指用上1.6nm工艺A16:与Feynman显卡同源
- 惋惜!37岁阿森纳传奇重伤缺阵2个月 回西甲后前5轮造7球比肩伊布
- 穆里尼奥力挺马丁内斯换下C罗:决定英明且勇敢,球队利益至上
精彩推荐
- 盗墓笔记单机化?小哥帅没边了!逆水寒联动开启
- 国家超算互联网核心节点正式上线:可提供超过10万卡国产AI算力
- 华为高管谈智驾兜底:华为要把能力先做好 车能修人身伤残修不好
- 芯片“拯救”了C罗?这也是足球的�...
- 为什么现在的手机没有一英寸传感器了
- Q1全球路由器等Wi
热门点击
- 创DC超英电影最大跌幅之一!《超级少女》票房断崖下跌 views+
- 切尔西女足续约22岁青训前锋至2030年 views+
- 周星驰新作《功夫女足》拷贝已经到影城 片长106分钟 views+
- AR+AI加速走进医疗场景 亮亮视野携手浙江桐轩医疗探索智慧医疗新实践 views+
- 中超第17轮跑动距离榜:卡约登顶,周定洋第二,贝维斯第三 views+
- 在异世界当建筑师《索亚菈与魔物之家》宣布动画化 views+
- 从“世界工厂”到“世界大脑”:“大湾区名片”智平方受邀出席联合国开源周 views+
- 从建球场到办赛事 字节跳动公益“抖音足球少年行”点亮乡村少年足球梦 views+
- 从3000+门店到6000万会员:爷爷不泡茶携手腾讯 跑出精准增长加速度 views+
- 平稳衔接高中学习 蓄力全新成长 —— 绘学教育 2026 年初高衔接课程介绍 views+