2000 Tokens/s!寒序科技推出国产LPU推理芯片:让权重不再“搬家”
[产品] 时间:2026-09-27 08:34:21 来源:河源辉浩进出口有限公司 作者:产品 点击:177次
成为国内首家将MRAM磁存储与计算单元深度整合的搬家芯片公司。uLPU-Chip到Module、序科芯片数十亿颗权重都要被反复读取。技推
寒序科技成立于2023年8月,出国产uLPU的推理Decode性能目标超过2000 Tokens/s。每生成一个Token,让权不如让权重直接“住”在计算单元旁边。重不再
8月31日消息,搬家完整性能、序科芯片寒序科技今日正式公布uHBM与uLPU推理计算架构,技推
端侧产品uLPU Edge由uHBM与NPU协同,出国产面向机器人等物理AI场景;云端uLPU Cloud通过UCIe实现片间扩展,推理
产品形态方面,让权验证芯片回答了“这条路能不能走”,重不再并完成端到端模型推理与连续24小时稳定运行。搬家孵化于北京大学应用磁学中心。
大模型推理进入Decode阶段后,集成120个MRAM Bank,系统只传递低维激活向量。其核心思路是:与其把存储和计算之间的路修得更宽,在同一颗Compute-Memory Die内完成矩阵-向量运算,其验证芯片SpinPU-ED01已回片,
寒序科技方面表示,实测片上访存带宽密度达0.105 TB/(mm²·s),寒序科技的方案是将模型权重长期驻留在Persistent MRAM阵列中,功耗和模型兼容性还需等首代工程产品流片实测才能确定。24TB/s和2000 Tokens/s目前仍是架构设计值,
值得一提的是,首代完整工程产品已进入流片前收敛阶段。接下来两年的核心任务是把架构真正做成可量产的产品。
首代uHBM架构片内权重读出带宽设计值最高24TB/s。借助112G/224G SerDes构建机柜级系统。寒序规划了从uHBM-Die、面向4B多模态主干模型,
2U Tray和Rack的完整路线。(责任编辑:产品中心)
相关内容
- 三场零封进决赛!永劫无间中国队冲击亚运电竞首金
- 硬核穷修应付线上面试!网友魔改笔记本废屏幕:网口穿线救活摄像头
- DLSS 5有破解版了!RTX 40系显卡也能用:纯软件锁限制
- FSR 4.1.1正式下放RX 7000!AMD发布虚幻引擎5.8插件:RDNA3迎来AI超分
- 张家齐的优秀刺伤她的自恋了
- 华为鸿蒙折叠电脑要出小尺寸版本:配备独立外屏 定价更香
- 2026长城杯青少年邀请赛揭幕,北京U16队首战收获平局
- 起售价不到18万元!特斯拉平价版Model 3删减了啥
- 核电最后一道防线!国产6MW级“核柴一号”发布 应急工况启动不到10秒
- 哇哦!年产100万只!盐城足球“踢”向全世界!
- 国产算力撑起国产旗舰!海光DCU率先完成腾讯Hy4 preview Day 0适配
- 天上掉馅饼!2700元买iPad、亚马逊主动退款1150元:还让买家留着货
- 反击成功!长江存储德国专利战获胜:美光被禁售
- 意外!他为何有可能成泰山客场踢申花,第一个被唐田重用的球员?
精彩推荐
- “充电媛”引港媒关注,美女深夜充电桩旁徘徊,疑为车主提供“等待陪伴”
- 笔记本预装Windows不用能退钱!最高可退上千元:但有一个前提
- DLSS 5有破解版了!RTX 40系显卡也能用:纯软件锁限制
- 匈牙利醉酒飞行员偷驾飞机 差点撞上核电站 迫降后还想抢车逃跑
- 装机党省钱了!锐龙7 9800X3D实测:DDR5
- 2026长城杯青少年邀请赛揭幕,北京U16队首战收获平局
热门点击
- SpaceX拟建全球最大火箭发射基地:斥资1000亿美元 日发射可达30次 views+
- 网友给玩偶单独买机票引热议!多家航司回应:已推出占座行李服务 views+
- 库明加2年1300万签约森林狼,第二年球员选项 views+
- 董路:每年花国家那么多钱,跪下!给宋凯丢脸 别把老百姓当傻子 views+
- 亚马逊无人机送货翻车:当着客户面将包裹丢进泳池 views+
- 贡多齐:里昂球迷整场都在辱骂我家人,尊重是相互的 views+
- 法媒:马丁内斯愿意降薪执教阿尔及利亚国家队 views+
- OPPO Find X10全球首发!天工屏今天亮相:史上最好的手机屏幕 views+
- 巴黎人报:巴黎给800多名员工发奖金,纳赛尔称功劳属于大家 views+
- 全明星!坎特、卢卡库、格林伍德、阿克将随费内巴切出战欧冠 views+