Genie 4:新一代世界模拟
本文目录
2026 年 10 月 27 日 · 模型
Genie 4:新一代世界模拟#
Raia Hadsell、Diego Rivas 与 Hang Qi
加入 Genie 4 候补名单
分享
(视频)
今天,我们宣布推出 Genie 4,这是我们新的世界模型,它带来了前所未有的真实感,并改进了实时交互式模拟。Genie 4 原生支持多模态,能够与世界同时生成类似音乐的声音、环境噪声和交互式对话。
Genie 4 模型吸收并建立在 Gemini 系列的能力之上:Gemini Omni 让模拟扎根于真实世界的外观与行为,而其他 Gemini 模型则提供维持模拟连贯性与连续性所需的复杂推理能力。
基于这一基础,你可以让一个事件动起来,Genie 4 会模拟接下来发生的事:世界如何响应、听起来如何,以及其中的人如何移动、反应和说话。
理解和模拟世界是构建 AGI 的关键方面。Genie 4 提升了我们创建安全、可无限变化的模拟的能力,这些模拟可以帮助从为机器人和智能体开发训练环境,到解锁全新交互体验的创作。
(视频)
我们已开始以研究预览的形式向可信测试者逐步推出 Genie 4——在向消费者和开发者发布之前收集反馈,首批包括 Project Genie 中的 Google AI Ultra 订阅用户,以及 Gemini API 和 Google AI Studio 的早期访问合作伙伴。在此加入 Project Genie 中 Genie 4 的候补名单。
(视频)
Genie 4 带来增强的照片级真实感、流畅的运动和原生音频。上方所有伴随声音均由 Genie 4 直接生成。
Genie 4 推进四项关键能力#
以下为 Genie 4 实时交互的录像,用户使用标准键盘控制进行导航和镜头控制,并用文本提示引导场景演变。
实时塑造世界模拟#
借助 Genie 4,你可以用自然语言实时修改模拟——例如改变天气、移动镜头,或引入新的人物或物体——Gemini 会结合上下文调整你的提示,使其与周围场景匹配。在你的输入之间,Gemini 还会监测并引导场景,使世界连贯地向前推进。
打开音频,聆听 Genie 4 的世界。
第 1 张,共 3 张
(视频)
提示词:将参考图像作为场景的精确首帧和视觉基础。保留同样的悬浮矩形平台、风化的混凝土边缘、野草、蕨类植物、扭曲的小树、温暖的琥珀色发光球体,以及同一位身穿宽松棕色西装、吹奏铜管萨克斯的中年男子。
一段电影感、高度自然主义的纪录片场景,以 16mm 胶片拍摄,带有细微颗粒、柔和的摄影细节、极低对比度、柔和的自然色彩、提亮的阴影、柔和的高光,以及柔和漫射的阴天光线。绝对不要 HDR,不要戏剧化对比,不要光泽感的数字渲染,不要人工电影布光。
平台漂浮在一片广阔而寂静的湖中央,四周是远处雾蒙蒙的森林。薄雾层在水面上飘移。天空是淡蓝灰色、阴沉的,带有一种柔和、近乎单色的氛围。温暖的琥珀色球体提供微妙的反差光晕,柔和地照亮周围的植被,并在湖中投下倒影。
开始时比参考图像稍近地取景萨克斯演奏者,同时保持平台、发光球体、树木和周围湖泊可见。男子继续自然地吹奏萨克斯,带有细微的呼吸、手指动作和轻柔的身体摇摆。
镜头独立移动,可以自由探索整个环境,在水面上以轻柔、受控的动作平滑滑行。镜头不附着于男子或平台。保持真实的空间连续性和自然的镜头运动。
在整个体验过程中,一切都必须保持摄影感、物理可信、纪录片式、极低对比度和柔和低饱和度。
一个连续镜头。自然的湖泊环境声、远处的风声、轻柔的水流声,以及真实的萨克斯声音。除场景中实际存在的乐器外,没有背景音乐。
(视频)
环境提示词:一片宽阔、阳光充沛的山顶草甸,长满高高的绿草,散落着紫色、白色和黄色的野花,在温暖的微风中摇曳。低矮的绿色灌木点缀在田野右侧,远处蓝绿色的起伏山丘沿着左侧地平线延伸,上方是明亮、局部多云的天空。
角色提示词:一条长长的、连续的亮粉色泡泡糖色缎面布料,从正前方最近处以大幅的 S 形曲线蜿蜒穿过草甸中央,一直延伸到远方。闪亮的粉色布料在野花上方翻滚、泛起波纹并轻轻扬起,如同一条流动的丝绸之河,风在其褶皱下流动。
(视频)
环境提示词:壮阔的航拍视角俯瞰南极洲广袤的冰封景观,无尽的雪覆盖冰川、嶙峋的冰峰和雕琢般的蓝色冰山沐浴在清冽的极地阳光下,天空晴朗、淡蓝。众多热气球以不同高度点缀在地平线上,一只巨大的奶油色、红色和蓝色条纹热气球显眼地漂浮在冰原上方中景处。
角色提示词:以第一人称视角站在飞行热气球编织柳条篮内,望向画面右侧皮革包边的篮筐边缘,那里黑色的软垫支撑杆、金属索具链条和头顶气球伞盖的深色底部构成了漂移的极地景象的画框。
在物理与人类动作的真实感上推进前沿#
Genie 4 为实时交互式模拟引入了新的真实感标准。基于对世界先进的物理理解,Genie 4 可模拟真实世界的物理场景,例如空气动力学、碰撞等。
最戏剧性的飞跃是 Genie 4 模拟人的方式——创造出动作自然、对环境做出有机反应、并能被实时交互引导的角色。
第 1 张,共 3 张
(视频)
环境提示词:一个阳光照亮的户外庭院,风化的石基座置于柔焦的茂密绿色花园植物和晴朗蓝天的背景前,沐浴在明亮温暖的午后阳光中,阳光逆光照射着慢动作中清晰的空中水滴。
角色提示词:一个完整的、有光泽的绿色条纹西瓜放在石基座中央。
(视频)
提示词:一颗枫树种子从树上落入草丛的微距特写。
(视频)
提示词:1980 年代一个拥挤的日本乡村火车站,站台上挤满了等车的乘客。唯一一名身穿深海军蓝制服的铁路检票员站在靠近镜头处,观察着场景。一列长长的深红色本地列车有许多车厢,停在最靠近镜头视角的铁轨上,横贯画面并一直延伸到远方。列车在近景中清晰可见,而不是在远处的轨道上。人们自然地填满站台,站着、走着、上车和带着行李等待。郁郁葱葱的绿色山脉、雪松林和潮湿的夏日薄雾环绕着车站。真实的 1980 年代日本氛围,电影感 35mm 纪实摄影,真实透视,非对称构图,自然光,细腻胶片颗粒,照片级真实纹理。车站必须看起来真正繁忙,整个站台上都有密集可见的人群。红色列车必须在最近的轨道上,主导整个场景。不要空旷的站台,不要远处的列车,不要稀疏的人群,不要居中的对称构图。
为世界的声音建模#
Genie 4 是我们首个原生生成音频的实时世界模型。每个世界都带有其自身场景的环境声,从林间风声到海滩拍岸的浪声。
然而,真正的前沿是人类语音。Genie 4 引入了可即时适应的交互式对话。角色会实时交谈,并对你的输入或世界中的事件做出反应。
第 1 张,共 3 张
(视频)
提示词:创建一个完全三维的沉浸式彩绘玻璃风景,感觉像一扇被赋予生命的手工水晶窗。这个世界应当可探索,仿佛镜头可以在一个巨大的 3D 彩绘玻璃环境中自由移动。整个场景必须具有彩绘玻璃/水晶窗的外观:半透明彩色玻璃、深色铅条轮廓、发光的分层面板、体积深度和手工玻璃质感。
展现一片美丽风景:一条流动的河流穿过绿色田野,前景有花朵,树木、远山、云朵,以及天空中一轮光芒四射的太阳。河流应像流动的半透明蓝色玻璃,花朵像直立的彩绘玻璃雕塑,草和树像分层的彩色玻璃形态,群山像堆叠的玻璃板,太阳像一个发光的圆形彩绘玻璃元素。一切都必须有空间感、统一、明亮且手工感十足,具有深度以及观者可以在三维中穿行的感觉。
镜头应能够穿过场景,仿佛在这个 3D 彩绘玻璃世界中行走或滑翔。保持世界美丽、神奇,风格完全一致。
绝对一切在任何时候都必须由彩绘玻璃或水晶构成,包括草、水、天空、云、花、树、山、太阳和所有可见表面。不要引入任何自然真实世界的纹理。不要真实的草,不要真实的水,不要正常的天空,不要在彩绘玻璃宇宙之外有任何写实。
不要文字,不要现代物体,不要在彩绘玻璃宇宙之外有任何写实。
(视频)
提示词:沉浸式第一人称视角,我们只能看到骑士强壮的大手收紧缰绳、龙和翅膀。照片级真实、超写实的运动相机影像,完全通过骑手自己的眼睛观看:他正以 140 公里/小时的速度骑着一头巨大的黑龙,穿过一条有许多龙和骑手参加的山地驭龙赛道。其他龙由其他骑士骑乘。
镜头就是骑手的眼睛。镜头固定在骑手头部,朝向正前方,并随骑手头部自然移动。骑手就是观者。骑手的脸、头、躯干、身体和完整轮廓永远不可见。不要第三人称镜头,不要外部摄像机角度,不要切镜,不要从背后或侧面拍摄骑手。
只展示骑手自然会看到的东西:龙颈以及靠近画面下边缘的其背部偶尔可见的部分、飞速掠过的风景、另外两条龙及其骑手在旁侧和前方竞速,以及一座城墙上有投石机的巨大城堡。一面标准旗帜由骑手自然地持握,可能偶尔出现在画面边缘,但绝不遮挡视野或充满画面。
镜头在整个飞行过程中保持这一精确的第一人称视角。激进的高速竞速、强而真实的振翅、空气动力学的重量感、强烈的风、自然的头部运动、细微的镜头震动、广角运动相机的畸变、真实的运动模糊、电影感的自然光、物理上可信的运动。
严格的视觉约束:真正的第一人称骑手视角,不可见骑手,不要第三人称视角,不要外部跟踪镜头,不要无人机镜头,不要过肩镜头,不要电影式切镜,不要让镜头漂浮在骑手身体之外,不要 CGI 外观,不要电子游戏感,不要 3D 渲染美学。
音频:深沉雷鸣般的振翅声、高空呼啸的阵风、远处火山的隆隆声,以及噼啪作响的火焰余烬。
(视频)
提示词:1995 年香港独立爱情剧情片的电影感微距特写,以 35mm 胶片拍摄。两个二十多岁、外貌不寻常的韩国恋人,黎明时分骑着摩托车穿过香港郊外的一座桥。
男性驾驶者不戴头盔,焦虑地环顾四周,肤色苍白的女性乘客戴着开放式头盔。他们的脸占据前景,巨大且相互重叠,具有自然的皮肤纹理和细微的忧虑与温柔表情。
低角度全景构图,由实心黑边画框框住。浅景深,模糊的道路在他们身后延伸,橙色路灯掠过,深绿色的黄昏天空。亲密、不完美、忧郁的 35mm 胶片美学。
一个连续镜头。
用 Gemini 模型模拟复杂事件#
将 Gemini 与 Genie 4 结合,为世界模拟增加了一层新的推理能力,使我们能够对复杂的多步事件建模,并在把 AI 系统带入真实世界之前,测试它们如何在不同的环境中行动。
为了实时实现这一点,Gemini 3.8 Flash 在循环中充当引导智能体:当 Genie 4 实时生成世界时,Gemini 持续观察场景,将目标分解为一系列步骤,并检查传入的帧以跟踪进度、验证每一步是否成功。当世界发生变化或用户介入时,Gemini 会即时调整其计划,从而解锁具有可靠因果性、程序化行为和多步推理的世界。
第 1 张,共 3 张
(视频)
提示词:Universal Robots 的 UR5 机械臂握着一支移液管,将液体分配到实验室培养板上,触发微小的电火花。
(视频)
提示词:一段真实、超照片级真实、高端 35mm 电影感的第一人称(POV)体验,场景设在一间华丽而幽闭的古典沙龙内,严格避免任何电子游戏、CGI 或数字渲染美学。真实场所,电影,而非渲染。
POV 与前景魔杖:真实的第一人称视角,沿着玩家实体右手向下看,那只手紧紧握着一根华丽的、手工雕刻的硬木与抛光黄铜巫师魔杖,指向房间内。玩家的皮肤在环境室内光下呈现真实的毛孔、皮肤皱褶、角质层纹理和自然的肌肉张力。魔杖显示出细腻的木纹、清漆的微小裂纹、冰冷的金属黄铜镶嵌,以及因握持而产生的触觉表面磨损。
瓷器动物群与房间建筑:一个令人窒息的巴洛克风格画廊,从地板到天花板挤满了成千上万件易碎的、真人大小的和微缩的釉面瓷器动物。闪着光泽的陶瓷孔雀具有复杂的羽毛图案和鲜艳的钴蓝与祖母绿珐琅,威严的瓷器犬和蜷缩的瓷器猫栖息在大理石壁炉架、桃花心木展示架和天鹅绒垂坠的基座上。表面展示出真实的高光泽陶瓷釉面、珐琅中的微小龟裂纹、精致的骨瓷半透明感,以及积聚在缝隙中的天然灰尘。
电影光学与照明:使用高端变形 35mm 电影镜头拍摄。具有浅景深、微妙的桶形畸变、真实的光学镜头光晕、细腻的有机胶片颗粒和背景中奶油般的散景等自然光学特性。自然日光透过高高的、布满污渍的维多利亚蕾丝窗帘倾泻而入,投下柔和体积感的尘埃微粒,并在光泽弯曲的瓷釉上形成锐利、物理准确的镜面高光。
动态运动与物理交互:连续、平滑的手持 POV 穿行。玩家微妙地挥动魔杖并指向陶瓷人物,当脚步踏过吱嘎作响的硬木地板时,在画面中引起真实的微振动。人物在完美、脆弱的静止中保持不变,随着魔杖移动而捕捉着变化的高光。
声学氛围:原始、沉浸式的纪录片级音频。脚下隐约的地板吱嘎声、远处房间的底噪、安静的呼吸声、手指调整木杖握持的细微干摩擦声,以及精致瓷器在安静空气中微微振动发出的清脆水晶般叮当共鸣。
一位真正的魔术师站在一张高大的木桌旁。桌上有一个大型长方形木箱,顶部完全敞开,没有盖子。
一只真正的孔雀平静地站在箱子里。
出色的制作设计、精致的艺术指导、电影灯光、自然但精心控制的光线、真实的肤色、美丽的对比、微妙的阴影、丰富的纹理、优雅的构图、浅景深、高端电影摄影机、真实的人类演员,极其照片级真实。
它应该看起来像一部享有盛誉、拍摄精美的现代电视剧的一帧:低调、昂贵、电影感且完全可信。
不要戏剧,不要舞台,不要幻想,不要卡通,不要塑料感的人,不要 CGI 外观。
(视频)
提示词:冠鹤在晴朗黄昏渐变天空下的雪地上走过。纪录片风格的自然色彩。
在探索这一能力的过程中,我们还在试验 Gemini 4 Argon 与 Genie 4,将我们的前沿研究与 Gemini Robotics 结合起来。
在下面的示例中,Argon 将用户指令的任务分解为步骤,供 Genie 渲染。在模拟渲染过程中,这些步骤作为文本说明交错输入给 Genie 4。由于 Genie 4 可以通过 Gemini 使用文本说明实时引导,这如今解锁了一条在模拟推进过程中进行调整、直至任务完成的路径。这一能力成为使用 Gemini 4 Argon 和 Genie 4 在想象世界中模拟广泛场景的一条路径。
(视频)
Gemini 4 Argon 与 Genie 4 协同工作,模拟 Apptronik 的 Apollo 人形机器人下跳棋,将任务分解为实时步骤。
来自可信测试者的经验#
虽然 Genie 4 是一个重大的研究里程碑,但它仍是一个早期的实验性模型。为了理解交互式世界模型如何支持真实世界的工作流——以及它们还需要在哪些方面成长——我们一直在与创意产业、新闻、教育、游戏和工程领域的可信测试者群体合作。
测试者强调,照片级真实感、原生音频和实时引导方面的飞跃,使想法和概念能够转化为真实的模拟,从而在各学科解锁新的能力:
创意指导:创意人士和技术专家正在测试 Genie 4 作为快速「草稿模式」进行预可视化和构思。例如,电影制作人可以进入某个场景的实时模拟,在实时中运行多个「镜头」,即时调整镜头角度、灯光、对话和动作。
历史场景与沉浸式照片:摄影记者正在探索如何将单张 2D 档案照片在几秒钟内变成该环境的落地模拟。团队正在测试充满人群的动态世界如何帮助体验历史空间,或可视化短期环境事件(如暴洪或野火)如何展开。
交互体验概念设计:游戏开发者和创意技术专家正在测试 Genie 4,从最初的想法到可探索的原型只需几秒钟,在编写任何一行引擎代码之前,通过自然语言提示测试视觉风格、材质美学和交互机制。
模拟:除机器人研究外,各行业的企业合作伙伴正在评估 Genie 4 作为快速「从零到一」场景生成工具,并找出需要进一步改进 Genie 以最好地满足模拟需求的差距。
未来工作:走向混合世界模型#
未来进展的一条有希望的路径在于混合世界模型,它将代码和语言模型的逻辑化、结构化推理与像素级模拟的丰富感官表征结合起来。
让 Genie 与 Gemini 模型更紧密地结合,是朝这一方向迈出的早期一步。Gemini 在幕后工作,绘制结构并规划叙事时间线,而 Genie 则生成即时的物理现实——逐像素渲染世界看起来如何、听起来如何、如何响应。两者互补的优势结合在一起,可以解锁一类新的世界模型,其连贯性、可控性和扎根程度远超任一单独方法所能达到的水平。
负责任地构建世界模型#
Genie 4 标志着前沿研究的一个新领域,它融合了实时生成与照片级真实感,引入了一系列我们希望以负责任方式推出和探索的新能力与维度。Genie 4 包含严格的安全护栏,与我们其他模型的安全政策一致。在推出此预览之前,我们通过内部严格的安全评估对 Genie 4 进行了评估,以防止生成有害或恶意内容。此外,我们有意先将其部署给可信测试合作伙伴以获取早期反馈,然后再更广泛地发布该模型。
为了保持透明度,Genie 4 生成的所有视频和音频都将包含 SynthID——我们不可感知的数字水印技术,可帮助跨视觉和音频模态识别 AI 生成的内容。
理解当前局限#
Genie 4 仍是一个早期、不断发展的研究领域。
虽然它能在短会话中保持连贯的环境,但视觉细节和物体恒存性仍可能随时间发生偏移或漂移——尤其是在模拟运行更久、经过多次复杂提示词编辑后,或在场景中导航时。复杂的物理交互、实时音频准确性、渲染清晰可读的文字、空间准确性以及长期一致性都是持续研究的活跃领域。我们将 Genie 4 作为预览分享,以便与社区一起学习,并安全地推进交互式模拟的前沿。
Genie 4 的下一步#
Genie 4 已作为研究预览向可信测试者发布,并即将登陆 Project Genie 中的 Google AI Ultra 订阅用户,以及 Gemini API 和 Google AI Studio 的早期访问合作伙伴。在此加入 Project Genie 中 Genie 4 的候补名单。
我们期待用户很快步入其中、进行实验并构建自己的交互式世界。
致谢#
Genie 4 的成就有赖于以下人员的核心贡献:Hang Qi、Diego Rivas、Aleksander Hołyński、Inbar Mosseri、Jack Parker-Holder、Shlomi Fruchter、Tejas Kulkarni、James Assiene、Philip Ball、Jakob Bauer、Eddie Cao、Lucy Chai、Harris Chan、Kleopatra Chatziprimou、Hao Chen、Yoni Choukroun、Mark Collier、Enric Corona、Kurtis David、Ariel Ephrat、Maxime Gazeau、Ruiqi Gao、Chelsee Glover-Odom、Liangke Gui、Swaroop Guntupalli、Shan Han、Tingbo Hou、Jiri Hron、Hui Huang、Drew A. Hudson、Zhouyuan Huo、Linyi Jin、Christos Kaplanis、Dhrupad Karwa、Eunyoung Kim、Congtao Kuang、Eliot Laidlaw、José Lezama、Hao Li、Shuang Li、Yuchen Liu、Hanzi Mao、Mark Matthews、Matt McGill、Kay McKinney、Ricardo Monti、Mark Murphy、Joseph Ortiz、Roni Paiss、Frank Perbet、Ben Poole、Tal Reiss、Konstantinos Rematas、Guy Scully、Jeremy Shar、Shashank Shastry、Sri S、Omer Tov、Ruben Villegas、Andrey Voynov、Hongjie Wang、Luyu Wang、Kaustubh Sridhar、Mo Samsami、Stephen Spencer、Yufei Wang、Will Whitney、Rundi Wu、Joyce (Jingjing) Xie、Jesse Yin、Shiran Zada、Serena Zhang、Xiaofan Zhang、Zhengqi Li、Zhixing Zhang、Yuan Zhong、Shuo-yiin Chang、Dmitry Lagun、Ronny Huang、Yao Su、Ankush Gupta、Genzhi Ye、Haolin Jia、Weiqin Wang、Xi Xiong、Salah Zaiem、Carol Zheng。
Genie 4 还需要跨合作伙伴团队的紧密协作,我们感谢所有使这次发布成为可能的跨职能合作伙伴:Dina Bashkirova、Emil Bergner、Greta Borisko、Irina Blok、Melissa Byun、Gabe Clapper、Viral Carpenter、Michael Y. Chang、Maximo Cudich-Sieburger、Chloe Doan、Alisa Fortin、Shivani Ghanta、Vikram Gopali、Ezra Gorman、Khyatti Gupta、Sam Hasinoff、Philipp Henzler、Hector Hinestroza、Ed Hirst、Tyler Holland、Kristian Holsheimer、Tiffany Hu、Kapil Joshi、Randeep Katari、Pavan Kumar、Vikhyat Kumeria、Sam Kvaalen、Matthew Levine、Yinxiao Li、Yuchi Liu、Miao Luo、Nick Matarese、Kangfu Mei、Signe Nørly、Moises Oliveira、Eric Paskie、Manika Puri、Susanna Ricco、Andrey Ryabtsev、Cai Schumann、Nicole Brichtova、Andy Sekyere、Grace Shih、Melissa Smith、Duncan Noble Smith、Kenda Stewart、Rod Strougo、Jenn Sturgeon、Amy Zeng、Gaby Pearl、Eleanor Tomlinson、Kenyon Watson、Inês Ayer、Luke Talbot、Han-Yun Tsao、Guillaume Vernade、Karen Wang、Changchang Wu、Ian Wilkinson、Weijuan Xi、Jennifer Yick、Yunhan Zhao、Eric Zhang、Jason Zhang、Annie Zhou、James Zhou、Chris Walker、Alan Yam、Alex Chen、Cliff Lungaretti、Dan Motzenbecker、Kaloyan Kolev、Matthew Carey、Nate Zucker、Sam Lawton、Shashwath Santosh、Suz Chambers、Agrim Gupta。
感谢 Raia Hadsell、Aäron van den Oord、Josh Woodward、Steve Seitz、Carlos Hernandez、Elias Roman、Jung E. Kim、Abhishek Bapna、Eli Collins、Tulsee Doshi、Carolina Parada、Jie Tan、Koray Kavukcuoglu 和 Demis Hassabis 在整个研究过程中给予的深刻指导与支持。
最后,我们感谢提供反馈、帮助引导我们研究向前发展的可信测试者和早期访问用户。
相关文章#
Genie 4
了解更多
Genie 3:世界模型的新前沿
2025 年 8 月 · 模型
了解更多
如何使用 Genie 创建有效的提示词
了解更多