project
Orbis - Visko推出的实时世界模型,让AI视频像直播一样
Orbis 是 Visko 推出的首个 Live Model(实时世界模型),让 AI 视频像直播一样持续运转。用户可随时输入新指令实时改变画面走向,无需等待成片。模型支持 4K...
Orbis是什么
Orbis 是 Visko 推出的首个 Live Model(实时世界模型),让 AI 视频像直播一样持续运转。用户可随时输入新指令实时改变画面走向,无需等待成片。模型支持 4K@24FPS 实时流式生成,通过多尺度记忆机制维持小时级长时一致性,基于因果时间分解与物理感知奖励确保运动真实自然,适用虚拟直播、互动故事、机器人仿真等场景。
Orbis的主要功能
-
实时流式生成:画面像直播一样不间断持续输出,支持 4K@24FPS 实时交付。
-
生成中交互:用户可随时追加或修改提示词,新指令平均 1 秒内作用于后续画面。
-
多模态输入:支持文生视频、图生视频和视频续写三种方式启动世界。
-
长时一致性:通过多尺度记忆机制,可维持小时级连续生成而无明显质量衰减。
-
物理真实感:基于因果分解与世界模型奖励,确保物体运动与交互符合物理规律。
Orbis的技术原理
-
因果时间分解:将生成视为初值问题,每个 chunk 仅从已提交的历史预测下一时段,天然匹配物理演化的马尔可夫结构,避免双向去噪中”未来噪声污染当前决策”的问题。
-
有界多尺度记忆:近期历史保留原生潜在分辨率,远期历史渐进压缩,超窗口信息 Consolidate 为固定容量学习状态,使记忆与计算成本与 rollout 长度解耦。
-
渐进式训练管线:用双向模型学习短程视觉先验,再蒸馏为流式生成器,经事件对齐长视频训练、人工精选微调,最后通过自强制分布匹配与 GRPO 强化学习对齐视觉与物理奖励。
-
物理感知奖励对齐:引入冻结的 V-JEPA 2 潜在世界模型,评估候选帧与历史状态的预测一致性,引导生成符合真实动力学,与视觉质量奖励联合优化。
-
流式推理工程:状态复用、编译化 Transformer 执行、多 GPU 序列并行与渐进式解码-超分-传输流水线协同,实现 4K 实时交付。
如何使用Orbis
- 开启会话:访问 Visko 官网 Playground 或调用 API,输入文字、上传图片或粘贴视频前缀即可开启一个实时会话。
- 启动实时生成:点击 Live 按钮启动流式生成,画面会像直播一样持续自动推演。
- 实时干预画面:在生成过程中随时输入新提示词或语音指令,平均 1 秒内可实时改变后续画面走向。
- 无缝切换场景:用 “Morph the scene” 描述场景变化,新指令会在下一个 chunk 边界无缝接入。
- 选择输出画质:按需选择 1080p、2K 或 4K 输出分辨率,系统通过流式超分实时交付高画质画面。
- 截取保存片段:点击 Clip 按钮可随时截取并保存当前生成的视频片段,供后续剪辑或分享。
- 接入自有应用:通过获取 API Key,可将 Orbis 的实时生成能力集成到自己的应用、直播或机器人仿真工作流中。
Orbis的核心优势
- 实时流式交互:画面像直播一样持续生成,用户可随时输入新指令实时改变走向,无需等待成片。
- 超长时程一致:通过有界多尺度记忆机制,可维持小时级连续生成而无明显质量衰减或色彩漂移。
- 物理真实感强:基于因果时间分解与潜在世界模型奖励,确保物体运动与交互符合真实物理规律。
- 高画质实时交付:原生生成配合流式超分,可实时输出 4K@24FPS 视频。
- 统一生成接口:同一套因果续写框架支持文生视频、图生视频和视频续写三种启动方式。
Orbis的项目地址、
- 项目官网:https://www.visko.ai/models
- 技术论文:https://www.visko.ai/blog/papers/files/Visko_Orbis_1_0__A_Live_Model_for_Real_TimeInteractive_Long_Video_Generation.pdf
Orbis的同类竞品对比
| 对比维度 | Visko Orbis 1.0 | 昆仑万维 Matrix Game 3.0 |
|---|---|---|
| 核心定位 | 通用实时流式视频世界 | 键盘/鼠标驱动的实时交互世界 |
| 交互方式 | 文本/语音/图像提示词实时干预 | WASD/鼠标动作实时控制画面 |
| 分辨率/帧率 | 4K @ 24 FPS | 720P @ 最高 40 FPS |
| 长时一致性 | 有界多尺度记忆,小时级稳定 | 长期记忆,维持空间场景一致性 |
| 生成范式 | 因果 chunk 流式生成 | 动作条件流式生成 |
| 物理合理性 | 物理感知奖励 + 世界模型 | 侧重交互响应与场景持续 |
| 主要场景 | 直播、影视、虚拟伴侣 | AI 游戏、交互式世界探索 |
Orbis的应用场景
-
互动娱乐与故事创作:用户实时选择剧情分支或语音讲述故事,画面随指令即时推演,打造”可玩的电影”体验。
-
AI 直播与虚拟主播:作为虚拟主播的实时画面引擎,持续生成直播画面并响应弹幕或语音指令,无需预录素材。
-
机器人仿真训练:在生成的高保真虚拟世界中训练与测试机器人行为,降低真实环境部署前的试错成本。
-
沉浸式教育与培训:将抽象知识或历史场景实时可视化,学生可通过语音提问即时改变演示内容。
-
电商虚拟展示:由虚拟 influencer 在实时生成的场景中动态展示商品,用户可即时要求切换风格、角度或使用情境。