小产权房
1.5B开源通用VLA模型，冲进具身智能第一梯队_我的网站
A | 金磊 发自 上海 量子位 | 公众号 QbitAI 一个新的国产VLA模型诞生了，而且只有1.5B。
B | Size这么小，能好用吗？ 来，话不多说，我们直接看效果： 视频地址： https://mp.weixin.qq.com/s/TWDuh4NmsamJ52E2A6ZpTw 在上面这个真机演示里，两只机械臂围着桌面开始做三明治。 人工智能公司OpenAI正在进行一项非同寻常的试验：通过雇佣超100名前投资银行员工，训练其AI模型掌握金融建模等核心技能。它们分工合作，先取面包，再夹起生菜、火腿和鸡蛋，一层层叠到一起。 据媒体10月22日报道，OpenAI这项代号为“Mercury”的秘密项目，已经吸引了来自摩根大通、摩根士丹利和高盛集团等顶尖金融机构的前员工参与。 再来看下另一段演示： 视频地址： https://mp.weixin.qq.com/s/TWDuh4NmsamJ52E2A6ZpTw 一只宇树机器狗收到“跟随前面的人”这条指令后，开始一路跟在目标身后。这些参与者负责编写指令、构建用于重组和首次公开募股（IPO）等各类交易的金融模型，以此“教导”AI如何像一名初级银行家一样工作。 报道援引知情人士透露，这些合同工的时薪为150美元，并且获得了他们正在帮助创建的AI的早期使用权。
C | 这一举动在金融行业内部引发了对初级岗位职业前景的担忧，分析师们长期以来抱怨工作繁重乏味，而人工智能的崛起正将这种抱怨转变为对其工作安全性的直接威胁。 此举也揭示了Sam Altman领导下的OpenAI的战略重心。 从室外走进办公楼，再进入电梯、地下停车场，机器狗始终没有跟丢。作为全球估值最高的初创公司之一，OpenAI尚未实现盈利，将强大的AI技术转化为能服务于金融、咨询、法律等各行各业的实用商业工具，已成为其当务之急。就算周围不断有人经过，环境和光线也在变化，它还是能认准一开始指定的那个人。 一、百余名前员工参与，时薪150美元训练AI 根据报道，OpenAI的“Mercury”项目已招募了超过100名具有华尔街背景的专业人士。
D | 更关键的是，这套能力直接跑在机器狗本地！ 电梯和地下停车场往往是网络信号比较差的地方。
E | 参与者阵容强大，不仅包括曾在摩根大通、摩根士丹利、高盛等一线投行工作过的前员工，还囊括了来自Brookfield Corp.、Mubadala Investment Co.、Evercore Inc.和KKR & Co.等知名投资机构的人才，甚至还有哈佛大学和麻省理工学院的在读MBA学生。 项目以灵活的合同工形式运作，参与者被要求每周提交一个金融模型。他们的任务包括用简单的语言编写提示，然后在微软的Excel程序中执行并构建模型。一位审阅人会对其工作提供反馈，参与者需在修正所有问题后，其成果才会被最终输入OpenAI的系统。即使进入弱网甚至无网环境，机器狗依然能继续识别目标、规划动作，保持跟随。OpenAI的一位发言人表示，公司与“众多领域的专家合作，以改进和评估我们模型的能力”，并称这些专家由第三方供应商招募、管理和支付报酬。 值得注意的是，该项目的申请流程几乎没有人为干预。申请过程包括与AI聊天机器人进行的约20分钟面试、一项财务报表知识测试以及最后的建模能力测试。 而在这两段Demo背后，则是面壁智能在WAIC期间正式发布并开源的MiniCPM-Robot系列模型。 目前包含两个模型： MiniCPM-RobotManip：也就是开头控制机械臂做三明治的通用VLA模型，参数量只有1.5B。 MiniCPM-RobotTrack：主要负责机器人的跟踪与导航，让机器人能够根据自然语言指令，在动态环境里持续跟住指定目标。 和它们一起出现的，还有开源具身智能推理框架PhyAI，负责让这些模型更快地适配硬件、跑到真实机器人上。 二、“请修复”：AI需要学会的细节与格式 投行初级分析师以其超长的工作时间闻名，在处理实时交易时，每周工作超过80小时是家常便饭。 简单来说，一个负责让机器人“动手干活”，一个负责让机器人“认准人、跟着走”，再配上一套负责高效推理的底座。
F | 面壁这次端出来的，已经是一套逐渐成形的具身智能组合。
G | 他们的工作充满了大量被视为“脏活累活”的任务，例如在Excel中构建复杂的并购模型，以及根据上级要求反复修改PPT演示文稿。 在彭博专栏作家Matt Levine看来，这种对细节的极致追求，恰恰是AI需要学习的关键。 跻身第一梯队，延迟接近一半 先来看MiniCPM-RobotManip。 虽然参数量只有1.5B，但在LIBERO、Calvin、RoboTwin2等主流VLA评测里，它的整体表现已经进入第一梯队，与π0.5等模型处在相近水平。 真正把差距拉开的，是对机器人记忆力的考验。他评论道，一名成功的投行分析师必须是“注重细节的”，因为模型或演示文稿中一个微小的格式错误，比如美元符号未对齐，都会让上司怀疑其中可能存在更严重的实质性错误，从而破坏信任。 很多VLA模型在执行动作时，主要根据当前这一帧画面做判断。
H | 比如让机器人点击画面里的第二个按钮5次。 Levine将目前的生成式AI比作“聪明但粗心的分析师”——它们能迅速产出看似合理的模型，但往往会出错或出现“幻觉”，无法被完全信任。
I | 因此，他认为OpenAI的项目本质上是一种“强化学习”，相当于“让一位投行副总裁对着AI吼上几年，直到它把格式做对为止”。 如果它看不到前面的画面，也记不住自己已经按过几次，就很容易按一下便停，或者一直按下去。 MiniCPM-RobotManip会把历史观测和此前执行过的动作一起纳入判断。它知道任务已经进行到哪一步，也知道什么时候应该停下来。 在专门考察上下文记忆的RMBench中，π0.5的成绩约为10分，接近随机水平，MiniCPM-RobotManip则达到约53分。
J | 雇佣前银行家正是看中了他们自身已经历过这种严苛的训练，能够本能地遵循页边距大小、百分比斜体等行业格式规范。 这项能力对真实机器人很重要。 叠衣服、收拾桌面、做三明治，看起来都是日常小事，拆开后却包含一连串动作。 三、替代学徒？华尔街晋升模式面临考验 “Mercury”项目的直接目标是让AI替代初级员工的工作，这引发了对投资银行传统学徒制模式未来的深刻质疑。机器人只看眼前，很容易做到一半便“失忆”；能记住此前的状态，才有机会把长任务完整做完。数十年来，华尔街依赖于一个金字塔结构：初级分析师通过处理基础工作来学习技能，其中最优秀的一部分人最终晋升为需要与客户打交道的高级银行家。 正如Matt Levine所提出的问题：当一个行业不再需要学徒时，它未来的高级合伙人将从何而来？如果AI接管了模型构建和文书工作，年轻的金融专业人士将如何获得必要的实战经验和行业知识，以成长为未来的领导者？ 不过，这一趋势也存在另一面。 除了记得住，机器人还得反应快。
K | 投资银行分析师项目的流动率一直很高，许多人在工作两年后便选择离开，投身于创业或其他行业。对于这些已经离开的人来说，回来训练一个可以替代自己当年岗位的机器人，或许并没有太多心理负担。 面壁给出的单帧推理对比中，在H100显卡、bf16精度下，MiniCPM-RobotManip单次决策延迟约为120毫秒，π0.5约为234毫秒，前者接近后者的一半。 “Mercury”项目不仅是华尔街的潜在颠覆者，更是OpenAI商业化战略的缩影。通过将目标锁定在金融服务这一利润丰厚的领域，OpenAI正努力证明其技术在复杂企业环境中的价值。 这里的“成本减半”，主要是体现在推理延迟和计算量上。 聊天模型多想一秒，用户通常还能等。 尽管估值高昂，但OpenAI尚未盈利的现实，正驱使其积极开拓企业市场。机械臂每做一步都停顿一秒，动作马上就会变得僵硬，整个任务的完成时间也会被拉长。 对VLA来说，能不能在有限算力下快速输出下一步动作，和榜单分数一样重要。 MiniCPM-RobotTrack也走了类似的小尺寸模型路线。 它以MiniCPM4-0.5B为基础，整体参数规模为0.9B，主要测试三种真实场景。 第一种是单目标跟踪。将AI能力应用于特定行业、解决具体的业务痛点，被视为其实现收入增长和长期发展的关键路径。给它一句明确指令，机器狗持续跟着指定的人。该项目表明，OpenAI的雄心不止于通用的聊天机器人，而是要打造能够深度嵌入企业工作流程的专业级AI工具，从而在全球商业版图中占据一席之地。 第二种是多人干扰。
L | 周围几个人同时移动、交叉甚至交换位置，模型依然要认准最初的目标。 本文来自：华尔街见闻，作者：张雅琦。 第三种更难，指令本身可能比较模糊。比如只说“跟着穿黑衣服的人”，现场又恰好有多个穿着相近的人，模型需要结合画面理解人类到底指的是谁。 在没有进行下游强化学习优化的情况下，MiniCPM-RobotTrack在三类任务上的追踪率分别达到89.8%、73.4%和80.4%，均取得开源方案中的最优结果。 相比OpenTrackVLA，三项追踪率分别提高7.0、14.6和6.5个百分点。 在相同的单视角、纯SFT设定下，与闭源模型TrackVLA++相比，它在单目标跟踪和模糊目标跟踪上的追踪率分别高出8.8和17.0个百分点，模糊目标跟踪的成功率达到58.0%。 参数小，表现却没有明显掉队。 机器人模型的竞争，也开始从单纯拼规模，转向拼单位算力到底能换来多少能力。 把机器人看到的世界压缩一下 MiniCPM-RobotManip能把尺寸压到1.5B，背后离不开面壁过去在多模态模型上的积累。 它基于MiniCPM-V 4.6训练而来（开源不到2个月，下载量已突破200万）。 面壁的MiniCPM-V/O系列已经持续迭代两年多，开源总下载量超过2500万。
M | 过去积累的图像理解、视频理解和多模态信息处理能力，如今被进一步搬到了机器人身上。 机器人执行一次动作，需要处理的信息其实很多。 一台双臂机器人通常会同时接收三个摄像头的画面，包括两个腕部相机和一个主视角相机，再加上一段文字指令，最后输出一个可以执行的动作。
N | 而且，这个过程一秒要重复好几次。 如果每一张图片都被转换成大量视觉Token，机器人运行得越久，需要处理的历史信息就越多，计算量很快就会堆起来。 MiniCPM-RobotManip采用的办法，是尽量压缩视觉Token。 桌面纹理、墙面图案等和当前任务关系不大的信息，不必占用太多Token。模型用更短的数据表示保留关键内容，单次推理需要处理的信息量也随之下降。 信息少了，推理自然更快。对应到机械臂上，就是等待时间更短，动作衔接更顺。 视觉Token压缩还有一个更大的用处，可以帮助机器人以更低成本保留历史记忆。 常规方法每获得一张新画面，都要把此前的历史重新计算一遍。任务越长，计算量增长得越快。 MiniCPM-RobotManip采用流式计算，前面已经处理过的信息可以继续复用，新画面进来后，只需要接着往下计算。 这就有点像看连续剧的感觉了。 普通做法每更新一集，都要从第一集重新看起；流式计算则会记住之前的剧情，直接从最新一集接着看。 机器人因此可以带着更长的历史继续执行任务，同时避免计算量一路暴涨。 1.5B的尺寸，也和机器人的实际运行需求有关。 面壁在将约200毫秒视为机器人操作体验的一道临界线。再慢下去，机械臂和机器狗的卡顿感就会明显增加。 当前多数VLA基础模型都控制在4B以内。模型继续做大能带来多少真实操作收益，行业仍在验证。 作者声明：该图片由AI生成 到了MiniCPM-RobotTrack这里，轻量化的思路又换了一种实现方式。 它把视觉画面、自然语言指令和机器人的控制决策放进同一个模型里统一处理。 用户说一句“跟着前面穿黑衣服的人”，模型会直接结合摄像头画面理解指令，再把判断转换成机器狗的运动控制。 整个过程不需要额外安装一套目标检测模块、一套识别模块，再接一套跟踪系统。也不用外接开发板，只靠宇树Go2 Edu原装摄像头和本地算力，就能完成单目标跟踪、多人干扰跟踪和模糊目标跟踪。 不过，真实世界总会出现训练集里很少见的情况。 目标可能突然从镜头前横穿过去，也可能快速转弯，被其他人短暂挡住。几个人同时交叉走动时，机器狗还要避免跟错人。 这类场景数量少，却最容易让模型翻车。
o | 所以，面壁为此搭建了一套自进化数据管线。
p | 团队先对原始数据进行检查和清洗，把异常轨迹、错误动作和无效交互剔除掉。随后让模型进入仿真和真实机器人环境，在持续运行中主动暴露自己的薄弱环节。 系统再把这些容易出错的场景集中收集起来，通过专家策略进行纠偏，放回下一轮训练。 说得通俗一点，这就像给机器狗准备了一本会自动更新的错题本。 经过一轮轮闭环训练，目标横穿、快速转向、短时遮挡、多人交叉这些长尾问题，也能不断得到加强。
q | 模型训好了，装到真机上仍然有一道关。 摄像头采集、画面编码、模型推理、动作生成、指令传输，任何一个环节慢下来，最终都会反映在机器狗的动作上。 面壁围绕宇树Go2的完整运行链路做了系统级优化。目前MiniCPM-RobotTrack在机器狗原生本地算力上可以稳定达到5Hz以上，端到端响应延迟约180毫秒。 这次开源的内容也不只有模型权重，还包括环境安装、模型加载、摄像头接入、文本指令输入、控制接口和一键启动脚本。 准备一台Go2 Edu，就能按照开源流程把模型部署起来。
r | 本地部署的好处，在电梯和停车场的演示里体现得很直接。 机器人不用等待画面上传云端，也不用等远程服务器返回结果。摄像头数据和用户指令留在本地，网络信号变差后，完整功能依然可以继续运行。
s | 直接拔掉网卡，机器狗照样能根据摄像头画面和文字指令，完成目标识别、持续跟踪和运动控制。 除了MiniCPM-Robot系列之外，这次还有一项容易被忽略的发布——PhyAI。 它是一款面向Physical AI的开源推理框架，由明体科技联合北京邮电大学、北京大学研发。 具身模型想从实验室跑到真实机器人上，中间还要经过硬件适配、量化、算子优化和部署。
t | 不同VLA、世界模型的结构差异很大。每发布一个新模型，再从头适配一次，时间和工程成本都不低。 PhyAI想做的，就是把这段路缩短。 在RTX 5090上运行π0、π0.5和GR00T时，PhyAI相较模型官方仓库分别实现约2.85倍、1.82倍和2.28倍加速。 适配MiniCPMRobot系列模型时，PhyAI先通过CUDA Graph把推理帧率从10.12Hz提高到33.28Hz，再加入为模型定制的融合算子，在NVIDIA H20上进一步提高到36.77Hz。 前面是模型效果，这里解决的是工程效率。 模型能干活，还得尽快跑上硬件，跑得足够快，才能真正进入更多机器人。
u | 机器人需要又好又便宜的大脑 具身智能行业从来不缺精彩Demo。真正难的是离开展台之后，机器人还能不能稳定工作。
v | 清华大学人工智能学院助理教授、面壁智能多模态首席科学家姚远在访谈中也提到： 现阶段不少机器人Demo会围绕单一任务采集大量数据，再进行针对性优化，展示效果并不能完全代表基础模型的真实进度。面壁更看重模型的基础性、泛化性和通用性，希望先把数据、Infra和工程链路打磨好，让基础能力提升后自然覆盖更多场景。沿着大语言模型的发展经验，具身智能最终也要走向“先通后专”，先理解物理世界的基本常识，再成为做饭、叠衣服或仓储作业等具体领域的专家。
w | 展馆、园区和工厂里，网络信号不会一直满格。机器人还要面对隐私、数据合规、任务失败和异常恢复等一连串现实问题。 榜单分数再高，走到地下停车场便停摆，落地空间依然有限。 这也是面壁把端侧能力放在重要位置的原因。 在与乐聚机器人的合作中，面壁把端侧多模态大模型、夸父机器人本体和导航系统组合到了一起，推出展厅导览Agent和园区巡检Agent。 展厅导览机器人在无网环境下，也能基于本地知识库完成离线讲解和自由问答。
x | 它可以理解展厅环境和人的指令，规划导览路线，同时完成避障。 园区巡检机器人则可以识别车辆违停、路面异常和公共设施问题。敏感画面直接在本地处理，数据留在客户侧。 与吉利汽车的合作，则进一步走进了生产仓储场景。
y | 面壁和吉利共同训练VLA模型，再通过RoboHarness把VLM、VLA、机器人本体和导航系统接到一起，让机器人执行仓储中的长程任务。 RoboHarness可以理解成物理世界里的Agent执行框架。 上层VLM负责规划任务，VLA和导航系统作为可以调用的工具。框架还会管理长任务的上下文和记忆，遇到失败时进行重试和恢复。 机器人每完成一次任务，运行数据还会进入可治理的数据闭环，继续帮助模型进化。 作者声明：该图片由AI生成 到这里，面壁此次在WAIC带来的具身智能路线已经比较清楚了。 MiniCPM-RobotManip负责操作，让机械臂理解任务、记住过程，再把事情做完。 MiniCPM-RobotTrack负责跟踪导航，让机器狗在复杂环境里认准目标，断网也能继续走。 PhyAI负责把模型更快地部署到真实硬件上。 再往外，乐聚和吉利的合作开始把模型、本体、导航和具体业务流程接起来。 大语言模型时代，人们习惯用参数量判断能力。但机器人真正走进物理世界后，参数只是其中一个数字。 它还得反应够快、记得住、断网能跑，数据留得下来，遇到意外能够恢复，成本也要控制在企业愿意长期使用的范围内。 从这个角度看，1.5B和0.9B的意义，也就不止是“小”。它们更像是在回答一个很现实的问题： 当AI真正长出手脚，除了聪明，还得跑得动、用得起，最后把活干完。
z | GitHub链接： https://github.com/OpenBMB/MiniCPM-Robot HuggingFace链接： https://huggingface.co/openbmb/MiniCPM-RobotManip https://huggingface.co/openbmb/MiniCPM-RobotTrack。
Current article:http://br2g.zhouangnaoguangsundianzhenmou.cfd/rb2nv/20260826/40698.html
Published on:07:59:41