火星网校
斯坦福大学师生打造电影级CG渲染：神经光图技术惊艳登场！
发布时间：2023-12-09 11:55:50 浏览量：110次
来源：unite ai
编辑：yaxin
【新智元导读】近日，斯坦福研究人员发表的一篇论文中，对现有的2个数量级图像进行了改进，展示了通过机器学习管道实现实时CG渲染的几个步骤。
神经辐射场(NeRF)这一技术能够创建人工智能生成的三维环境和三维物体。
但这种新的图像合成技术需要大量的训练时间，并且缺乏实现实时、高度响应接口的实现。
然而，企业和学术界之为这一挑战提供了新的思路——新视图合成 (NVS)。
近日，一篇题为Neural Lumigraph Rendering的研究论文声称，它对现有的2个数量级图像进行了改进，展示了通过机器学习管道实现实时 CG 渲染的几个步骤。
与以前的方法相比，神经光图渲染提供了更好的混合伪像分辨率，并改进了遮挡的处理。
除了斯坦福大学(Stanford University)和全息显示技术公司 Raxium 的研究人员，这篇论文的贡献者还包括谷歌首席机器学习架构师、 Adobe 的计算机科学家，以及 StoryFile 的首席技术官。
体积捕获的原理是拍摄主题的静态图像或视频，并使用机器学习来「填充」原始文档未涵盖的观点的想法。
上图取自 Facebook AI 的 2019 AI 研究 ，可以看出体积捕获的四个阶段:
1 多个摄像机获取图像/画面;
2 编码器/解码器架构(或其他架构)计算并连接视图的相关性;
3 射线行进算法计算空间中每个点的体素(或其他 XYZ 空间几何单位) ;
4 训练合成一个完整的实体，可以实时操作。
到目前为止，正是这种数据量大的训练阶段使得新视图合成超出了实时或高响应捕获的范畴。
事实上，新视图合成制作了一个完整3D地图的体积空间，意味着它是把这些点缝合到一个传统的计算机生成的网格，有效地捕捉和连接一个实时CGI 角色。
使用 NeRF 的方法依靠点云和深度图在捕获设备的稀疏视点之间生成插值:
尽管 NeRF 能够计算网格，但大多数并不使用它来生成体积场景。
相比之下，魏茨曼科学研究所（Weizmann Institute of Science）在2020年10月发布的隐式可区分渲染(IDR)方法，取决于利用从捕获数组自动生成的3D网格信息。
虽然 NeRF 缺乏 IDR 的形状估计能力，IDR无法比拟的nerf的图像质量，而且两者都需要大量的资源来训练和整理。
NLR的Custom相机装置具有16台GoPro HERO7和6台中央Back-Bone H7PRO相机。对于实时渲染，它们的最低运行速度为60fps。
相反，神经光图渲染利用 SIREN (正弦表示网络)将每种方法的优点整合到它自己的框架中，目的是生成直接可用于现有实时图形管道的输出。
在过去一年中，SIREN 已被用于类似场景，现在是图像合成社区中业余爱好者 Colabs 的一个流行的 API 调用。
然而，NLR 的创新是将 SIREN 应用于二维多视图图像监控。
从阵列图像中提取 CG 网格后，通过 OpenGL 对网格进行栅格化，将网格的顶点位置映射到适当的像素点，然后计算各种贡献图的融合。
结果得到的网格比 NeRF 的网格更加具有代表性，需要更少的计算，并且不会将过多的细节应用到不能从中受益的区域(如光滑的面部皮肤) :
另一方面，NLR 还没有任何动态照明或重点照明的能力，输出仅限于阴影地图和其他照明时获得的信息。研究人员打算在未来的工作中解决这个问题。
此外，论文承认由 NLR 生成的图形并不像一些替代方法那样精确，或者前面提到的魏茨曼科学研究。
利用神经网络从一系列有限的照片中创建3D实体的想法早于 NeRF，而相关研究可以追溯到2007年或更早。
在2019年，Facebook 的人工智能研究部门发表了一篇开创性的研究论文Neural volume: Learning Dynamic Renderable volume from Images)，该论文首次为基于机器学习的体积捕获生成的合成人启用了响应界面。
参考资料：
https://www.unite.ai/towards-real-time-ai-humans-with-neural-lumigraph-rendering/
热门课程推荐
热门资讯
-
想将照片变成漫画效果？这篇文章分享了4个方法，包括Photoshop、聪明灵犀、VanceAI Toongineer、醒图，简单操作就能实现，快来尝试一下吧！
-
2. AI视频制作神器Viggle：让静态人物动起来，创意无限！
Viggle AI是一款免费制作视频的AI工具，能让静态人物图片动起来，快来了解Viggle AI的功能和优势吧！
-
3. 华为手机神奇“AI修图”功能，一键消除衣服！原图变身大V领深V！
最近华为手机Pura70推出的“AI修图”功能引发热议，通过简单操作可以让照片中的人物换装。想了解更多这款神奇功能的使用方法吗？点击查看！
-
4. AI显卡绘画排行榜:4090无悬念，最具性价比出人意料
在AI绘图领域，Stable Diffusion的显卡绘图性能备受关注。本文整理了Stable Diffusion显卡的硬件要求和性能表现，以及2023年3月显卡AI绘图效率排行榜和性价比排行榜。欢迎查看最新的AI显卡算力排行榜。
-
近年来,人工智能逐渐走入公众视野,其中的AI图像生成技术尤为引人注目。只需在特定软件中输入关键词描述语以及上传参考图就能智能高效生成符合要求的...
-
就能快速生成一幅极具艺术效果的作品,让现实中不懂绘画的人也能参与其中创作!真的超赞哒~趣趣分享几款超厉害的AI绘画软件,提供详细操作!有需要的快来...
-
7. 零基础10分钟生成漫画，教大家如何用AI生成自己的漫画
接下来,我将亲自引导你,使用AI工具,创作一本既有趣又能带来盈利的漫画。我们将一起探索如何利用这个工具,发挥你的创意,制作出令人惊叹的漫画作品。让...
-
8. 10个建筑AI工具，从设计到施工全覆盖!肯定有你从来没听过的
讲述了建筑业比较著名的AI公司小库科技做出的探索,在这儿就不多说了。今天,我们试着在规划设计、建筑方案设计、住宅设计、管道设计、出渲染图、3D扫...
-
AI技术的快速发展为各行各业带来了许多创新应用,其中之一就是AI小说生成视频。这种技术利用人工智能算法和语言模型,将文本转化为视频剧情,加上配图、...
-
以下是一些免费的AI视频制作网站或工具,帮助您制作各种类型的视频。 1. Lumen5:Lumen5是一个基于AI的视频制作工具,可将文本转换为视频。 用户可以使...
最新文章
