Fei-Fei Li:世界模型将如何颠覆机器人与 3D?(a16z 访谈 World Labs 团队)

来源:a16z(公众号)(a16z human five(主持人 Martin Casado)) · 2026-09-05 · 原文链接 分类:世界模型 / 空间智能(高度相关) 一句话概括 World Labs 三人组把 Atlas 的核心原语定义为 new view prediction(新视角预测),并宣称它与 next-token prediction 等价、同属 AI-complete——用"相机位姿作为模型原生输入"统一了此前分裂的像素生成与 3D 重建两条赛道,把稀疏重建的拍照量降低 50–100 倍,并通过收购 SceniX 把这条线接到 Real-to-Sim-to-Real 的机器人数据闭环上。 ...

2026年9月5日 · 6 分钟 · 2668 字 · elephantflow

李飞飞发布全球首个多模态世界模型 Atlas:像素级相机控制+单图生成完整 3D 世界

来源:3D视觉工坊 · 2026-09-03 · 原文链接 一句话概括 把相机位姿做成原生输入的全能世界模型,单图生成可自由探索的 3D 世界并直出点云与 3DGS 核心要点 定位转变:从"生成像素"到"理解空间"。Atlas 不是图像/视频生成器,而是能生成、重建、模拟任意可能世界的统一模型。核心能力一句话:从一张或几张图片出发,生成一个你可以自由探索的、物理一致的三维世界。 能力一|相机控制生成(像素级精确的"导演模式")。给定 1 张或多张参考图,在指定相机位姿生成新视角,与输入内容和几何一致,并平滑外推到不可见部分。支持长达 1 分钟、1440p 的视频,可逐帧设计相机路径。团队原话:“你是在导演一场戏,而不是在拉一台老虎机的杠杆。” “空间上下文"机制(与 LLM 的类比):Atlas 先把输入编码成一个 spatial context,再基于它生成输出;每张图像都被锚定在三维空间中的具体位置。可以把两张毫无关联的参考图放进同一个空间上下文,Atlas 会生成在两者间平滑过渡的世界——“想象"出门廊、走廊、壁龛来连接两个场景。 能力二|空间重建。从 1 到几十张图重建真实场景,不需要专业采集设备或密集视图。“所见越多,想象越少”:单图时靠世界知识脑补,图越多重建越精确;只用两三张就能给出可信重建,效果甚至超过专门为 3D 重建训练的模型。演示中:一张花园地面照 → 生成鸟瞰视角;加第二张(小屋)→ 同时出现但仍"想象"左侧房子;加第三张(主屋)→ 整个场景精确还原。 原生显式 3D 输出:点云(几何结构)+ 3D 高斯泼溅(可高分辨率、高帧率在设备上渲染的完整场景)。从单张图就能联合生成新视角并估计几何,直接输出完整 3D 世界。 能力三|时空模拟(空间+时间)。① “子弹时间"平民化:只用 3-5 台普通手机摄像头就能冻结时间、任意角度回放事件(以前需专业多相机阵列);② 机器人仿真新范式:重建只是第一步,模拟机器人移动时 Atlas 还能生成其传感器会观察到的 RGB 和深度数据——世界和机器人的视角来自同一个模型。团队用手机视频拍两个大型环境(每段仅 24 帧重建),再模拟不同类型机器人沿不同路径导航,生成机器人身上相机视角的图像;③ 机械臂操作:从几次随意录像构建同时捕捉物体如何移动和交互的仿真环境,建好后可轻松变化物体、位置、机器人运动、光照、背景,生成多样化训练数据与测试环境。 能力四|图像生成(“副产品”)。能遵循复杂提示、渲染文字、生成多种视觉风格,可从文本或图像生成 360° 全景图。 技术内核:多模态自回归扩散 Transformer(multimodal autoregressive diffusion transformer)。 多模态:原生处理文本、图像、相机位姿、3D 深度图;每张图像与深度图都关联一个显式相机位姿,使空间控制成为架构的核心组件。 自回归:按序列顺序逐个生成输出,每个任务本质是一种不同的序列模式。 扩散:修正流(rectified flow)模型,逐步去噪,推理时可调去噪步数权衡速度与质量。 Transformer:以大规模矩阵乘为主,适配现代硬件。 融合 LLM 与视频模型思想:像 LLM 一样可用 KV-caching、缓存感知路由加速;像视频模型一样可用扩散蒸馏、无分类器引导。 关键差异 + 评测:Atlas 把相机作为原生输入类型,而非通过文本描述相机运动。第三方人类评估者判断其在相机控制生成上优于近期视频模型,且优势随相机轨迹变复杂而扩大;在 3D 重建任务上也超越最优秀的开源专用重建模型。 Scaling 观察:从零预训练,发现随模型规模和训练计算增加,每个新阶段都解锁新的模型能力;团队相信趋势会持续。 状态与展望:目前与选定合作伙伴进入早期访问阶段,未来版本将驱动 Marble 等产品。范式上从"为每个任务造一把专用钥匙"转向"造一把能开很多锁的万能钥匙”;工作流可能从"采集大量数据→后处理→重建"变为"拍几张照片→让模型生成一个完整世界”。 金句 “如果说传统视频生成模型是在「生成像素」,那 Atlas 做的则是「理解空间」。” ...

2026年9月3日 · 4 分钟 · 1925 字 · elephantflow