谷歌DeepMind的Genie 4世界模型新增声音和实时场景编辑
据谷歌介绍,谷歌DeepMind周二发布了Genie 4,这是一种可实时生成可交互、可探索场景的“世界模型”,现在还能生成与场景匹配的音频。据TechCrunch报道,用户可以在模拟过程中输入指令,改变天气、移动镜头或添加角色。这是一个研究预览版,目前仅向一小部分测试者开放。
它能做什么:世界模型生成的是用户可以在其中移动并加以改变的模拟环境,而不是固定的视频片段。据谷歌介绍,Genie 4能即时生成环境音、音乐和互动对话。据TechCrunch报道,它可以让一个场景保持连贯长达两分钟,是前代Genie 3上限的两倍。
工作原理:据谷歌介绍,Genie 4建立在谷歌的Gemini模型之上,这些模型帮助保持模拟的连贯性。在一项与Gemini Robotics相关的研究实验中,一个Gemini模型将一项任务分解为若干步骤,由Genie 4实时模拟;TechCrunch称,这展示了在现实世界中尝试之前先测试机器人场景的一种可能方式。
已知局限:据TechCrunch报道,谷歌DeepMind的工作人员表示,目前仍处于早期阶段,最终产品形态尚不明确。据TechCrunch报道,模拟运行时间越长,细节和物体就越可能发生漂移,团队也尚未解决如何确保音频准确、场景内文字清晰可读的问题。
谁能使用:据谷歌介绍,Genie 4首先向受信任的测试者推出。它将面向Project Genie中的Google AI Ultra订阅用户,以及Gemini API和Google AI Studio的抢先体验合作伙伴推出;TechCrunch称这将在未来几周内实现。