位置:首页  >  详情页
直播新模型训练过程一小时烧3万:美元
来源:OPPO软件商店 编辑:陈韵瑞 2026-09-17 09:02:21

梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

什么情况?小米新模型的强化学习训练,直接开了现场直播。

点进去一看,这哪是训练现场啊,这就是烧钱现场,一眨眼就是10美刀,一分钟就是4000多元人民币出去了。



当然烧钱的速度可能不是均匀的,从pro模型开始训练算起36小时,两款模型已经花了超过108万美元,平均每小时3万美元

要是别人干这事得喊一句误闯天家,但是小米干这事只能喊一句误闯米家了。

在这个页面上,训练花了多少钱、跑了多少步、奖励曲线涨没涨、哪个节点的显卡出了故障,全部公开可查。



见过开放权重、开放训练代码和开放训练数据的,开放训练过程的还真是没见过,围观群众纷纷大呼过瘾。





那么目前MiMo-V2.6的Flash和Pro两款模型训练得怎么样了?

其实还在初期,毕竟刚开始训练1天多一点。

不过已经能看出两者在RL过程中都有了比较明显的能力提升:

Pro的dynsam/avg@n从第1步的约0.565提升至0.614,Flash则从约0.514提升至0.603;最新公开的DeepSWE v1.1离线评测中,Pro和Flash分别达到62.24和60.77。(对比DeepSeek-Flash v1.1是74.2%)

Flash从更低的起点快速追近,Pro目前只保持小幅领先。不过Pro训练完一个Step更慢,所以最新的评分还没出来。



自4月份开源MiMo-v2.5后,小米沉默了近半年。

现在负责人罗福莉出来解释,这期间只研究了一件事:强化学习能扩展到多远



小米公开如何Scaling强化学习

传统的预训练scaling很容易理解:更多数据 × 更多参数 × 更多算力 → 更强模型

现在前沿模型越来越关注RL能不能也这样scaling?

也就说如果持续增加:

每轮生成多少轨迹;

模型面对多少种真实任务环境;

为判断这些轨迹好不好投入多少计算;

模型能力是否还能持续提高?

小米给出的答案是沿三个维度扩展:训练计算量、环境/执行框架、评分计算量。

###训练计算量的Scaling

第一个维度最直观,就是把RL本身的计算规模做大。

MiMo-V2.6系列每个训练Step大约会处理20亿Token,配置为1568个Prompt × 每个Prompt 16条Rollout

也就是说,同一道题并不是只让模型回答一次,而是让它尝试多条不同的解题和行动轨迹,再从这些尝试中获得强化学习信号。

1568×16意味着一轮就可能产生超过2.5万条Rollout。而对于Agent任务来说,一条Rollout又远不只是“一问一答”:模型可能要经历几十轮思考、工具调用、环境反馈和再次行动,因此最终一个Step的Token数可以达到数十亿级别。



更重要的是,整个系统采用了Fully Async,也就是完全异步的执行方式

传统意义上可以把一次RL训练想象成一条整齐的流水线:先把所有样本生成完,再统一评分,然后训练模型,最后开始下一轮。

但大规模Agent RL很难这样等待。

在MiMo的系统里,不同任务可以同时处于不同阶段:有的Agent还在环境中执行任务,有的已经完成、等待判分,有的正在计算Reward,还有新的任务正在进入系统。生成、执行、评分和训练不再严格排队,而是组成了一套持续运转的异步流水线。



环境的Scaling

第二个扩展方向是Environments and Harnesses,也就是训练环境和执行框架的扩展

MiMo-V2.6做的是Multi-task Agentic RL:代码、通用任务、视觉、Chat等不同类型的任务,可以被混合到同一次RL Run中训练,而且这些任务还可以运行在不同的Harness里。

例如一个编程Agent的Harness可能允许模型打开终端、修改代码、执行测试、阅读报错,然后继续修改;另一个视觉Agent面对的则可能是一套完全不同的工具、环境反馈和成功条件。

因此,MiMo想扩展的除了“题目数量”,还有模型能够进入多少种环境、使用多少种工具、解决多少种类型的问题

这也是为什么直播页面会专门展示Batch Composition:这一栏实际上是在告诉外界,每一个训练Step中,模型正在从什么样的任务和环境里获取经验。



评分的Scaling

第三个Scaling方向则更容易被忽略:Grader Compute,也就是给打分本身增加算力。

强化学习需要奖励,但复杂Agent任务的奖励 并不像数学选择题那样容易得到。

代码任务还可以运行Test Case:100个测试通过了多少个,就可以形成相对客观的反馈。

但面对更开放的Agent任务,仅仅判断“最终成功还是失败”往往远远不够,负责判断模型做得好不好的评分者,同样开始消耗越来越多计算资源。

而这里还有一个更加关键的问题Credit Assignment,也就是信用分配。

假设一个Agent为了完成任务连续执行了40步:搜索资料、打开网页、阅读信息、编写代码、运行测试、发现错误、修改代码,最终成功完成任务。

如果系统最后只告诉模型一句“成功,Reward=1”,这个学习信号其实非常粗糙。

因为模型并不知道:前面的40步中,究竟哪些动作真正帮助了成功?哪些步骤其实毫无必要?哪一次修改扭转了整个任务?又有哪些动作虽然最后没有导致失败,却实际上是不好的选择?

MiMo在这次训练中特别提到了Agentic In-group Credit Assignment。目前还没有公布具体算法,但结合“同一个Prompt生成16条Rollout”的训练方式,可以理解其基本目标:利用同组多条Agent轨迹及其结果,获得比简单的最终成败更加细致的强化学习信号。

同一组任务尝试,哪些行为应该获得更多鼓励、哪些应该减少鼓励,以及如何把这种判断转成训练信号。



这样一来,MiMo所说的三个Scaling方向实际上构成了一套完整体系:

扩展计算量,让模型产生更多经验;扩展环境和Harness,让模型获得更加多样的经验;更多评分计算量,则负责从这些海量经验中提取更加准确的学习信号。

当预训练的Scaling已经发展多年之后,能否把模型与环境交互、产生经验、评价经验再到学习经验的整个RL循环,也变成一台可以持续扩大规模的机器?

不过前来围观的大佬ViT大佬给出更直接的翻译:三件事,背后都是算力。



参考链接
[1] https://mimo.xiaomi.com/rl
[2]https://x.com/_LuoFuli/status/2100296686719610932

贝博bb平台体育初探,探讨其在体育行业中的地位【哔哩哔哩】_【bilibili】 直播新模型训练过程一小时烧3万:美元
贝博bb平台体育

https://xin.abies.asia/ArTitle/DeTails/964503.sHtML

「活动」首次登录送38积分

934.69MB
版本V3.65.19
下载贝博bb平台体育安装你想要的应用 更方便 更快捷 发现更多
喜欢 08%好评(04人)
评论 75
贝博bb平台体育初探,探讨其在体育行业中的地位 贝博bb平台体育截图1 贝博bb平台体育截图2 贝博bb平台体育截图3 贝博bb平台体育截图4
详细信息
  • 软件大小 259.19MB
  • 最后更新 2026-09-17 09:02:21
  • 最新版本 V8.75.73
  • 文件格式 apk
  • 应用分类 ios-Android盛京棋牌官网
  • 使用语言 中文
  •  需要联网
  • 系统要求 7.15以上
应用介绍
一.网络彩票骗局分分彩  杭州万词霸屏的市场前景分析,乐云seo招代理的机会与挑战 suncity818百家乐
二.十年娱乐app下载  了解seo推广品牌排行榜前十名的重要性,寻找适合自己的推广策略
三.ac米兰vs阿森纳录像AV网站  武汉百度推广的应用现状,深入了解迦唯T乐云seo技术
四.国际博开国际老网站  选择商丘百度seo网站优化服务商,提升网站流量与排名
五.正规斗牛平台-首页  led显示屏排名很好,乐云seo马总的市场洞察
六.mg体育贵宾通道  黑帽SEO找回网赌提现靠谱嘛,如何判断其有效性与风险seo推广吻踪云速捷刷词专业2,助力企业提升品牌曝光率
七.永恒国际娱乐平台测试  北京网址推广优选乐云seo十年,探寻十年变迁与未来发展
八.网上棋牌官方  城阳seo优化按天扣费多少钱,了解实际费用和影响因素

【联系我们】
客服热线:400-5466-8483
加载更多
版本更新
V3.64.64
成都百度百科实力乐云seo,提升品牌知名度与网络影响力

类似软件

猜你喜欢

包含 97久久香蕉国产线看观看 的应用集
评论
  • SEO和SEM的基本概念,了解SEO和SEM是干什么的外推 8天前
    杭州网络接单优选乐云seo十年,探索数字营销转型之路
  • 深入理解SEO搜索引擎优化, 分享个人心得体会 8天前
    百度推广公司皆往乐云seo权威,企业营销策略日益重要
  • 南昌西湖区关键词seo排名优化的重要性,提升网络曝光率与竞争力 0天前
    万词霸屏我用乐云seo十年,探索SEO的真实价值与挑战
  • 南昌互联网广告十年,乐云seo的实践与探索 0天前
    创建百度百科对seo的帮助,提升品牌价值与搜索曝光
  • 一戈seo24福州网站推广v1的实用策略,深入了解其有效性与挑战 7天前
    百度蜘蛛状态301对seo有影响吗,了解301重定向的实际效果
  • 嘉祥抖音seo优化一般多少钱,深入了解价格构成与因素 5天前
    北京网络优化十年乐云seo品牌的蜕变历程,探寻背后的行业发展趋势
  • 口碑营销价格透明,首荐乐云seo包满意 2天前
    杭州抖音seo排名一般多少钱,影响因素及实际应用分析
  • 品牌营销多少钱,十年乐云seo的实践与探索 1天前
    上海百度快排知名乐云seo的独特优势,助力企业网络营销转型
  • 广州市关键词seo优化哪家专业,选择合适的服务商助力网站流量 6天前
    天津百度百科专注乐云seo,探索网络推广新模式
  • 深入理解百度竞价词与seo关键词区别,探讨两者在营销策略中的应用 9天前
    百度seo检测工具一检测评分,深入解析其重要性与应用