当前位置:首页 > 热点关注 > 正文内容

DeepSeek提到的FP8到底是啥 引发AI圈热议

2个月前 (08-22)热点关注64

   DeepSeek提到的FP8到底是啥 引发AI圈热议!DeepSeek V3.1发布后,一则官方留言在AI圈引起轰动。短短不到20个字的留言中提到新的架构和下一代国产芯片,信息量巨大。受此影响,国产芯片企业的股价纷纷上涨,例如寒武纪早盘盘中大涨近14%,总市值跃居科创板头名。半导体ETF也在半天内大涨5.89%。

  

   许多人对UE8M0 FP8这一概念感到困惑。UE8M0 FP8可以拆分为两部分解释。UE8M0是MXFP8路径中的“缩放因子”,而MXFP8是Open Compute Project在2023年发布的8 bit微缩块格式。Open Compute Project是一个由Facebook(现Meta)、英特尔、Rackspace等发起的开源硬件协作计划,旨在通过共享数据中心及服务器设计推动行业效率提升。其成员包括微软、谷歌、亚马逊、AMD、英伟达以及国内的阿里、腾讯、百度等公司。

  

   MXFP8基于FP8建立,将常规浮点格式压缩到8 bit。MXFP8的核心思想是将张量切成固定长度的“块”,为每个块指定一个2的整数次幂作为“缩放因子”,然后将块内所有数值除以这个系数后再写成FP8。这种块级的缩放方式保留了8 bit位宽,同时扩展了可用动态范围。UE8M0中的U表示无符号,E和M分别代表指数位和尾数位分配到的bit数。UE8M0指8个bit全部分配给了指数位。

   采用全指数表示缩放因子的方式有多个好处热点话题。首先,处理器在根据缩放因子复原数据时只需移动指数位,无需进行浮点乘法、规格化或舍入逻辑,缩短了时钟关键路径。此外,UE8M0的动态范围覆盖2^(−127)到2^128,为后续块缩放提供了充足空间。它还能解决单尺度FP8无法同时处理大/小值的问题,减少了信息损失。

  

   UE8M0 FP8更适配“下一代国产芯片”。目前,大部分已量产的国产AI加速器仍使用FP16/BF16 + INT8计算通路,未集成完整的FP8乘加单元。但摩尔线 NPU等新款国产芯片已在宣传资料中列出“原生 FP8”或“Block FP8”支持,并与多家厂商联合验证UE8M0格式。虽然下一代国产芯片在HBM/LPPDDR带宽方面仍有差距,但UE8M0让一组32个FP8数据只追加8bit缩放引子,相比传统FP32节省75%流量,成为重要优化方向。DeepSeek提到的FP8到底是啥 引发AI圈热议 DeepSeek提到的FP8到底是啥 引发AI圈热议

相关文章

浙江盒马一分公司多宝鱼检测出甲硝唑 不合格产品已下架

浙江盒马一分公司多宝鱼检测出甲硝唑 不合格产品已下架

   4月25日,湖州市市场监督管理局发布食品安全监督抽检信息通告(2025年第5期),指出杭州盒马网络科技有限公司德清银泰城分公司销售的多宝鱼甲硝唑含量不符合食品安全国家标准。此次抽检涉...

北京电动自行车进楼入户有新规!电动自行车进楼入户罚款 最高罚1000元

北京电动自行车进楼入户有新规!电动自行车进楼入户罚款 最高罚1000元

   5月1日,新修订的《北京市消防条例》正式施行。针对电动自行车,《条例》首次明确规定禁止携带电动自行车及充电电池进入电梯轿厢,违规个人最高可被罚款1000元。近年来,由于电动自行车起火...

《百家讲坛》 20250430 食物的历史(第一部) 6 甜蜜的大麦

   本期节目主要内容:大麦,作为人类最早驯化的农作物之一,始终贯穿中华文明的发展脉络。从关中平原的麦饭,到江南甜蜜的麦芽糖,再到雪域高原上的青稞糌粑,这株金色作物,不仅绘制了地域饮食图谱...

女子回应拿“柴米油盐酱醋茶”当喜糖 实用浪漫两不误

女子回应拿“柴米油盐酱醋茶”当喜糖 实用浪漫两不误

   “五一”小长假是婚礼举办的高峰期,不少年轻人选择将婚礼“喜糖”换成“柴米油盐酱醋茶”,既实用又富有生活气息。在社交平台上,许多新人晒出精心包装的实用版“喜糖”,网友形容这是“菜篮子”...

深铁集团披露2024年亏损原因 万科业绩拖累

深铁集团披露2024年亏损原因 万科业绩拖累

   4月29日,深圳市地铁集团有限公司发布重大损失公告。根据2024年度审计报告,深铁集团2024年合并报表范围内发生亏损334.61亿元。截至2023年末,该集团净资产为3164.31...

美国黄石公园附近发生撞车事故致7死 旅游团遭遇不幸

美国黄石公园附近发生撞车事故致7死 旅游团遭遇不幸

   当地时间5月2日,美国爱达荷州警方报告称,5月1日晚上7点15分左右,在爱达荷州东部黄石国家公园附近发生了一起交通事故,一辆皮卡与一辆旅游面包车相撞,导致7人死亡。...