AB
AiBoss站
project

HiDream-O1-World - 智象未来推出的全模态交互式世界模型

HiDream-O1-World 是智象未来(HiDream.ai)推出的原生全模态交互式世界模型,基于自研 UiT 架构打造。

HiDream-O1-World是什么

HiDream-O1-World 是智象未来(HiDream.ai)推出的原生全模态交互式世界模型,基于自研 UiT 架构打造。支持文本、图像、交互操控等多模态输入,具备漫游、编辑、交互三大功能,可一键生成时空一致、符合物理规律、可长时推演的完整世界。核心突破在于「3D 先验注入 Memory 上下文 + Test-Time Training 在线适应」的协同设计,有效解决了长时交互中的物体漂移、场景失忆与物理失真问题。

HiDream-O1-World的主要功能

  • 多模态输入生成:支持文本描述、图像上传、交互操控等多种输入方式,一键生成结构完整、质感细腻的交互世界;例如上传一张室内照片即可自动补全全景,构建高精度数字孪生空间。
  • 沉浸式漫游:提供第一人称与第三人称两种视角,用户可自由驱动角色行走、任意调整视角方向,镜头移动全程稳定无漂移,光影与细节同步变幻。
  • 实时编辑交互:可驱动角色完成抓取、奔跑、下蹲、跳跃等动作,或调度环境变化(如触发降雨、物体坠落等动态事件),且每次修改都保持几何、光照、材质与物理逻辑的全局统一。
  • 多角色构建:支持人类、动物、虚构角色等多种角色类型,精准适配各自的形态与运动规律。
  • 丰富场景与风格化创作:能高度还原城市街景、自然地貌、室内空间等真实场景,也能生成幻想异世界、二次元卡通、3A 游戏渲染等多元艺术风格。
  • 长时程时空一致性:基于「3D 先验注入 Memory + Test-Time Training」机制,多轮视角切换后物体不消失、不漂移、不「失忆」。
  • 物理一致性保障:碰撞、遮挡、重力、流体等物理响应符合真实世界因果逻辑,视觉物理合理性较行业平均提升 13.6%。

如何使用HiDream-O1-World

  • 选择输入方式 :支持三种多模态输入:输入一段文本描述(如场景设定)、上传一张参考图片(如室内照片),或直接通过交互操控开始。
  • 一键生成世界 :模型基于输入自动构建完整的交互世界,包括空间结构、材质光影与物理规则;上传图片时还能自动补全全景,生成数字孪生空间。
  • 漫游探索 :选择第一人称或第三人称视角,驱动角色在世界中自由行走,任意调整视角方向(推拉摇移),观察环境细节与光影变化。
  • 实时交互编辑:通过指令驱动角色完成抓取、奔跑、下蹲、跳跃等动作,或调度环境事件(如降雨、物体坠落),模型会保持几何与物理逻辑的全局自洽。
  • 长时推演与持续创作:依托「Memory + TTT」机制,模型能记住已探索的空间结构,支持多轮交互、长时程连续推演而不丢失世界状态。

HiDream-O1-World的核心优势

  • 原生全模态UiT架构:基于自研原生全模态架构,实现文本、图像、交互的统一理解与生成,而非多模态简单拼接。
  • 时空一致性突破:首创”3D先验注入Memory上下文 + Test-Time Training在线维护”协同机制,长时程交互中物体不漂移、不消失、不变形。
  • 物理一致性突破:训练阶段通过物理模拟数据驱动归纳偏置学习,推理阶段TTT在线适配场景物理属性,视觉合理性超行业均值13.6%。
  • 评测成绩顶尖:首次参评WBench即登顶Navi分榜,综合80.9分,物理维度73.3与一致性维度88.0均列第一。
  • 多模态输入灵活:支持文本描述、图片上传、交互式操控等多种输入,一键生成可双视角漫游、实时编辑的完整世界。
  • 角色与风格泛化:精准适配人类、动物、虚构角色的形态与运动节奏,同时兼容真实场景还原与二次元、3A游戏等多元艺术风格。

HiDream-O1-World的项目地址

  • 项目官网:https://yanghb22-fdu.github.io/DreamWorld/
  • 技术论文:https://yanghb22-fdu.github.io/DreamWorld/asserts/DreamWorld.pdf

HiDream-O1-World的同类竞品对比

对比维度 HiDream-O1-World LingBot-World
出品方 智象未来(HiDream.ai) 蚂蚁集团(开源)
WBench排名 第1名 第5名
综合分 80.9 78.5
质量维度 81.0 78.9
设定维度 82.2 72.6
交互维度 80.0 80.1
一致性维度 88.0 89.9
物理维度 73.3 71.2
核心架构 自研原生全模态UiT架构,3D先验注入Memory + TTT在线维护 未披露具体架构细节
开源情况 未开源 开源
核心优势 综合表现最强,物理真实性领先,时空一致性突破 一致性单项最高(89.9),开源可二次开发
相对短板 未开源,生态待建设 综合表现较弱,设定能力(72.6)和物理(71.2)均有差距
适用场景 高精度仿真、具身智能、AI互动影游、物理自洽要求高的产业应用 开发者快速接入、开源定制、对一致性要求高但物理要求适中的场景

HiDream-O1-World的应用场景

  • AI互动影游:用户从被动观看者转变为主动叙事参与者,世界随探索实时演进分支剧情,在影视级视觉质感中享受多重结局的沉浸体验。
  • 具身智能仿真:搭建遵循物理规则的高精度城市、工厂、室内仿真空间,为智能机器人训练提供低成本、高安全的虚拟试验底座,替代高风险实景测试。
  • 3D数字内容生产:面向设计师与创作者快速生成3D手办、家居场景及艺术空间,支持结构微调、风格秒换与智能补全,大幅缩短创意到成品的迭代路径。
  • 自动驾驶虚拟测试:构建高度还原真实交通规则与物理规律的道路环境,模拟极端天气、复杂路况等罕见场景,加速自动驾驶算法的训练与验证。
  • 微观世界生命模拟:向微观尺度延伸,精准模拟细胞行为、蛋白相互作用等生命过程,为药物发现、疾病机理研究与生物实验提供全新的数字仿真路径。