project
HiDream-O1-World - 智象未来推出的全模态交互式世界模型
HiDream-O1-World 是智象未来(HiDream.ai)推出的原生全模态交互式世界模型,基于自研 UiT 架构打造。
HiDream-O1-World是什么
HiDream-O1-World 是智象未来(HiDream.ai)推出的原生全模态交互式世界模型,基于自研 UiT 架构打造。支持文本、图像、交互操控等多模态输入,具备漫游、编辑、交互三大功能,可一键生成时空一致、符合物理规律、可长时推演的完整世界。核心突破在于「3D 先验注入 Memory 上下文 + Test-Time Training 在线适应」的协同设计,有效解决了长时交互中的物体漂移、场景失忆与物理失真问题。
HiDream-O1-World的主要功能
-
多模态输入生成:支持文本描述、图像上传、交互操控等多种输入方式,一键生成结构完整、质感细腻的交互世界;例如上传一张室内照片即可自动补全全景,构建高精度数字孪生空间。
-
沉浸式漫游:提供第一人称与第三人称两种视角,用户可自由驱动角色行走、任意调整视角方向,镜头移动全程稳定无漂移,光影与细节同步变幻。
-
实时编辑交互:可驱动角色完成抓取、奔跑、下蹲、跳跃等动作,或调度环境变化(如触发降雨、物体坠落等动态事件),且每次修改都保持几何、光照、材质与物理逻辑的全局统一。
-
多角色构建:支持人类、动物、虚构角色等多种角色类型,精准适配各自的形态与运动规律。
-
丰富场景与风格化创作:能高度还原城市街景、自然地貌、室内空间等真实场景,也能生成幻想异世界、二次元卡通、3A 游戏渲染等多元艺术风格。
-
长时程时空一致性:基于「3D 先验注入 Memory + Test-Time Training」机制,多轮视角切换后物体不消失、不漂移、不「失忆」。
-
物理一致性保障:碰撞、遮挡、重力、流体等物理响应符合真实世界因果逻辑,视觉物理合理性较行业平均提升 13.6%。
如何使用HiDream-O1-World
-
选择输入方式 :支持三种多模态输入:输入一段文本描述(如场景设定)、上传一张参考图片(如室内照片),或直接通过交互操控开始。
-
一键生成世界 :模型基于输入自动构建完整的交互世界,包括空间结构、材质光影与物理规则;上传图片时还能自动补全全景,生成数字孪生空间。
-
漫游探索 :选择第一人称或第三人称视角,驱动角色在世界中自由行走,任意调整视角方向(推拉摇移),观察环境细节与光影变化。
-
实时交互编辑:通过指令驱动角色完成抓取、奔跑、下蹲、跳跃等动作,或调度环境事件(如降雨、物体坠落),模型会保持几何与物理逻辑的全局自洽。
-
长时推演与持续创作:依托「Memory + TTT」机制,模型能记住已探索的空间结构,支持多轮交互、长时程连续推演而不丢失世界状态。
HiDream-O1-World的核心优势
-
原生全模态UiT架构:基于自研原生全模态架构,实现文本、图像、交互的统一理解与生成,而非多模态简单拼接。
-
时空一致性突破:首创”3D先验注入Memory上下文 + Test-Time Training在线维护”协同机制,长时程交互中物体不漂移、不消失、不变形。
-
物理一致性突破:训练阶段通过物理模拟数据驱动归纳偏置学习,推理阶段TTT在线适配场景物理属性,视觉合理性超行业均值13.6%。
-
评测成绩顶尖:首次参评WBench即登顶Navi分榜,综合80.9分,物理维度73.3与一致性维度88.0均列第一。
-
多模态输入灵活:支持文本描述、图片上传、交互式操控等多种输入,一键生成可双视角漫游、实时编辑的完整世界。
-
角色与风格泛化:精准适配人类、动物、虚构角色的形态与运动节奏,同时兼容真实场景还原与二次元、3A游戏等多元艺术风格。
HiDream-O1-World的项目地址
- 项目官网:https://yanghb22-fdu.github.io/DreamWorld/
- 技术论文:https://yanghb22-fdu.github.io/DreamWorld/asserts/DreamWorld.pdf
HiDream-O1-World的同类竞品对比
| 对比维度 | HiDream-O1-World | LingBot-World |
|---|---|---|
| 出品方 | 智象未来(HiDream.ai) | 蚂蚁集团(开源) |
| WBench排名 | 第1名 | 第5名 |
| 综合分 | 80.9 | 78.5 |
| 质量维度 | 81.0 | 78.9 |
| 设定维度 | 82.2 | 72.6 |
| 交互维度 | 80.0 | 80.1 |
| 一致性维度 | 88.0 | 89.9 |
| 物理维度 | 73.3 | 71.2 |
| 核心架构 | 自研原生全模态UiT架构,3D先验注入Memory + TTT在线维护 | 未披露具体架构细节 |
| 开源情况 | 未开源 | 开源 |
| 核心优势 | 综合表现最强,物理真实性领先,时空一致性突破 | 一致性单项最高(89.9),开源可二次开发 |
| 相对短板 | 未开源,生态待建设 | 综合表现较弱,设定能力(72.6)和物理(71.2)均有差距 |
| 适用场景 | 高精度仿真、具身智能、AI互动影游、物理自洽要求高的产业应用 | 开发者快速接入、开源定制、对一致性要求高但物理要求适中的场景 |
HiDream-O1-World的应用场景
-
AI互动影游:用户从被动观看者转变为主动叙事参与者,世界随探索实时演进分支剧情,在影视级视觉质感中享受多重结局的沉浸体验。
-
具身智能仿真:搭建遵循物理规则的高精度城市、工厂、室内仿真空间,为智能机器人训练提供低成本、高安全的虚拟试验底座,替代高风险实景测试。
-
3D数字内容生产:面向设计师与创作者快速生成3D手办、家居场景及艺术空间,支持结构微调、风格秒换与智能补全,大幅缩短创意到成品的迭代路径。
-
自动驾驶虚拟测试:构建高度还原真实交通规则与物理规律的道路环境,模拟极端天气、复杂路况等罕见场景,加速自动驾驶算法的训练与验证。
-
微观世界生命模拟:向微观尺度延伸,精准模拟细胞行为、蛋白相互作用等生命过程,为药物发现、疾病机理研究与生物实验提供全新的数字仿真路径。