NVIDIA AI模型QUEEN实现高效内容直播
这个被称为 QUEEN 的模型模型支持低带宽、高质量的现高效内场景生成,可用于工业机器人操作、容直3D 视频会议和直播等流媒体应用。模型
NVIDIA Research 与马里兰大学合作开发的现高效内 AI模型 QUEEN 将内容直播带入全新的维度。有了 QUEEN,容直直播自由视角视频有望成为现实,模型也就是现高效内说,观众可以从任意视角体验 3D 场景。容直
QUEEN 可用于构建沉浸式直播应用,模型例如教授烹饪等技能、现高效内让球迷就像身处球场一样从任意视角观看比赛,容直或者在工作场所举行更加身临其境的模型视频会议。QUEEN 也能用于工业环境,现高效内帮助操作员远程操控仓库或工厂中的容直机器人。
该模型在本月于温哥华举行的年度 AI 盛会 NeurIPS 上进行了展示。
NVIDIA 研究总监、杰出研究科学家 Shalini De Mello 表示:“要想近乎实时地直播自由视角视频,就必须同时重建和压缩 3D 场景。QUEEN 巧妙地平衡了压缩率、视觉质量、编码时间和渲染时间等各种因素,从而创建了一个优化的流程,为视觉质量和可直播性树立了新的标杆。”
通过减少渲染量,重复利用
和循环利用等方式实现高效直播
自由视角视频通常使用来自各种摄像角度拍摄的视频素材制作而成,例如多机位拍摄、仓库里的一组安防摄像头或是办公室中的视频会议摄像头系统。
以往用于生成自由视角视频的 AI 方法要么占用过多的内存用于直播,要么为了缩小文件大小而牺牲视觉质量,而 QUEEN 在两者之间取得了平衡。即便是存在火花、火焰或毛茸动物的动态场景,也能轻松地把高质量的视频内容从主机服务器传输到客户端设备。而且,与之前的方法相比,它还能够更快地渲染视频内容以进行直播。
在大多数真实环境中,场景中的许多元素都是静止不动的。在视频中,这意味着某个帧中的大部分像素与其它帧中的像素相同。为了节省计算时间,QUEEN 跟踪并重复使用这些静态区域的渲染,从而腾出资源来专注于重建那些随时间变化的内容。
研究人员使用了一块 NVIDIA Tensor Core GPU,在多个基准测试中评估 QUEEN 的性能,他们发现该模型的表现在一系列指标上都优于目前最先进的在线自由视角视频制作方法。对于从不同角度拍摄同一场景的 2D 视频,通常只需不到五秒的训练时间,就能以每秒约 350 帧的速度渲染自由视角视频。
同时实现高速度和高视觉质量,这意味着音乐会和体育赛事转播能够提供身临其境般的虚拟现实体验或比赛集锦的即时回放。
在仓库场景中,机器人操作员可以利用 QUEEN,在操纵物体时更精准地测量深度。在视频会议中,例如 SIGGRAPH 和 NVIDIA GTC 大会上的 3D 视频会议 demo,它可以帮助主持人演示烹饪或折纸等场景,同时让观众可以选择最适合自己学习的视角。
NVIDIA 为 NeurIPS 制作和撰写了 50 多篇学术海报和论文,QUEEN 是其中之一。这些学术海报和论文介绍了在模拟、机器人和医疗等领域具有巨大应用前景的开创性 AI 研究成果。
首次介绍了 GAN 模型的论文《生成式对抗网络》在 NeurIPS 2024 大会上荣获“时间检验奖”。该论文被引用超过 8.5 万次,其中一个作者是 NVIDIA 的杰出工程师Bing Xu。
NVIDIA Research 在全球拥有数百名科学家和工程师,专注于 AI、计算机图形学、计算机视觉、自动驾驶汽车和机器人等领域的研究,欢迎点击“阅读原文”查看他们的最新研究成果 。
大型语言模型、模拟和建模、边缘 AI 等领域的学术科研人员可以申请 NVIDIA 学术资助计划。
- ·富士康携手Porotech进军AR眼镜市场
- ·联想集团荣获2025拉姆查兰管理实践奖杰出奖
- ·汉威科技先进汽车传感方案助力打造健康座舱
- ·库拉岗日雪山:读懂美的AI版图
- ·燧原科技亮相2024中国人工智能大会
- ·严查!鲤城交警24小时内连续查获5部超员车辆
- ·杭州西湖荷花首开 “映日荷花别样红”已在期待中
- ·泉州加强残疾人技能技术培训 今年将办班29期培训1200人
- ·中车鲸典客车批量交付1032辆
- ·泉州市城管局开展专项整治:售卖孔明灯一律没收
- ·让治理创新“小盆景”变为共治共享“大风景”
- ·泉州交警发布元宵节交通安全出行提示
- ·精彩回顾丨为昕科技出席EDTEST2024深圳大会并发表重要演讲
- ·挑战低功耗极限!杭州研极微发布「研极芯Gen2」以业界1/10功耗树立续航新标杆
- ·卫通终端设备如何适配天地一体网络
- ·“直播+”,让文明实践触“屏”可及_
- ·基于飞腾腾珑E2000 CPU的自主可控DCS系统成功投运
- ·为弥补毕业生遗憾 她在空教室里上了特殊的“最后一课”
- ·强生医疗科技携手NVIDIA推进手术机器人开发
- ·联想集团荣获2025拉姆查兰管理实践奖杰出奖
- ·高通推出骁龙8至尊版
- ·Ceva推WiFi7 1x1客户端IP 助力打造更智能、更敏捷的人工智能物联网设备及新兴物理人工智能系统
- ·严查!鲤城交警24小时内连续查获5部超员车辆
- ·Ceva推WiFi7 1x1客户端IP 助力打造更智能、更敏捷的人工智能物联网设备及新兴物理人工智能系统
- ·默克集团在日本投资逾7000万欧元建先进材料开发中心
- ·泉州多个学校明确表态:禁止学生带智能化电话手表入校
