AB
AiBoss
project

Orbis - Visko推出的实时世界模型,让AI视频像直播一样

Orbis 是 Visko 推出的首个 Live Model(实时世界模型),让 AI 视频像直播一样持续运转。用户可随时输入新指令实时改变画面走向,无需等待成片。模型支持 4K...

Orbis是什么

Orbis 是 Visko 推出的首个 Live Model(实时世界模型),让 AI 视频像直播一样持续运转。用户可随时输入新指令实时改变画面走向,无需等待成片。模型支持 4K@24FPS 实时流式生成,通过多尺度记忆机制维持小时级长时一致性,基于因果时间分解与物理感知奖励确保运动真实自然,适用虚拟直播、互动故事、机器人仿真等场景。

Orbis的主要功能

  • 实时流式生成:画面像直播一样不间断持续输出,支持 4K@24FPS 实时交付。
  • 生成中交互:用户可随时追加或修改提示词,新指令平均 1 秒内作用于后续画面。
  • 多模态输入:支持文生视频、图生视频和视频续写三种方式启动世界。
  • 长时一致性:通过多尺度记忆机制,可维持小时级连续生成而无明显质量衰减。
  • 物理真实感:基于因果分解与世界模型奖励,确保物体运动与交互符合物理规律。

Orbis的技术原理

  • 因果时间分解:将生成视为初值问题,每个 chunk 仅从已提交的历史预测下一时段,天然匹配物理演化的马尔可夫结构,避免双向去噪中”未来噪声污染当前决策”的问题。
  • 有界多尺度记忆:近期历史保留原生潜在分辨率,远期历史渐进压缩,超窗口信息 Consolidate 为固定容量学习状态,使记忆与计算成本与 rollout 长度解耦。
  • 渐进式训练管线:用双向模型学习短程视觉先验,再蒸馏为流式生成器,经事件对齐长视频训练、人工精选微调,最后通过自强制分布匹配与 GRPO 强化学习对齐视觉与物理奖励。
  • 物理感知奖励对齐:引入冻结的 V-JEPA 2 潜在世界模型,评估候选帧与历史状态的预测一致性,引导生成符合真实动力学,与视觉质量奖励联合优化。
  • 流式推理工程:状态复用、编译化 Transformer 执行、多 GPU 序列并行与渐进式解码-超分-传输流水线协同,实现 4K 实时交付。

如何使用Orbis

  • 开启会话:访问 Visko 官网 Playground 或调用 API,输入文字、上传图片或粘贴视频前缀即可开启一个实时会话。
  • 启动实时生成:点击 Live 按钮启动流式生成,画面会像直播一样持续自动推演。
  • 实时干预画面:在生成过程中随时输入新提示词或语音指令,平均 1 秒内可实时改变后续画面走向。
  • 无缝切换场景:用 “Morph the scene” 描述场景变化,新指令会在下一个 chunk 边界无缝接入。
  • 选择输出画质:按需选择 1080p、2K 或 4K 输出分辨率,系统通过流式超分实时交付高画质画面。
  • 截取保存片段:点击 Clip 按钮可随时截取并保存当前生成的视频片段,供后续剪辑或分享。
  • 接入自有应用:通过获取 API Key,可将 Orbis 的实时生成能力集成到自己的应用、直播或机器人仿真工作流中。

Orbis的核心优势

  • 实时流式交互:画面像直播一样持续生成,用户可随时输入新指令实时改变走向,无需等待成片。
  • 超长时程一致:通过有界多尺度记忆机制,可维持小时级连续生成而无明显质量衰减或色彩漂移。
  • 物理真实感强:基于因果时间分解与潜在世界模型奖励,确保物体运动与交互符合真实物理规律。
  • 高画质实时交付:原生生成配合流式超分,可实时输出 4K@24FPS 视频。
  • 统一生成接口:同一套因果续写框架支持文生视频、图生视频和视频续写三种启动方式。

Orbis的项目地址、

  • 项目官网:https://www.visko.ai/models
  • 技术论文:https://www.visko.ai/blog/papers/files/Visko_Orbis_1_0__A_Live_Model_for_Real_TimeInteractive_Long_Video_Generation.pdf

Orbis的同类竞品对比

对比维度 Visko Orbis 1.0 昆仑万维 Matrix Game 3.0
核心定位 通用实时流式视频世界 键盘/鼠标驱动的实时交互世界
交互方式 文本/语音/图像提示词实时干预 WASD/鼠标动作实时控制画面
分辨率/帧率 4K @ 24 FPS 720P @ 最高 40 FPS
长时一致性 有界多尺度记忆,小时级稳定 长期记忆,维持空间场景一致性
生成范式 因果 chunk 流式生成 动作条件流式生成
物理合理性 物理感知奖励 + 世界模型 侧重交互响应与场景持续
主要场景 直播、影视、虚拟伴侣 AI 游戏、交互式世界探索

Orbis的应用场景

  • 互动娱乐与故事创作:用户实时选择剧情分支或语音讲述故事,画面随指令即时推演,打造”可玩的电影”体验。
  • AI 直播与虚拟主播:作为虚拟主播的实时画面引擎,持续生成直播画面并响应弹幕或语音指令,无需预录素材。
  • 机器人仿真训练:在生成的高保真虚拟世界中训练与测试机器人行为,降低真实环境部署前的试错成本。
  • 沉浸式教育与培训:将抽象知识或历史场景实时可视化,学生可通过语音提问即时改变演示内容。
  • 电商虚拟展示:由虚拟 influencer 在实时生成的场景中动态展示商品,用户可即时要求切换风格、角度或使用情境。