谷歌逆天「夜视」拍照突然火了！完美降噪还能合成3D视角
Autodesk 3ds Max 是一款专业的三维建模、动画与渲染软件，广泛应用于建筑可视化、游戏开发、影视动画、广告设计和产品展示等领域。
最近，网上一段来自谷歌的AI夜景拍摄视频被刷爆了！视频中的这个技术叫RawNeRF，顾名思义就是NeRF的一个全新变体。NeRF是一种全连接神经网络，使用2D图像的信息作为训练数据，还原出3D场景。RawNeRF比起之前的NeRF，有了多处改进。不仅能完美降噪，还能改变相机视角，调整焦点、曝光和色调映射。谷歌的这篇论文于2021年11月发表，并被CVPR2022收录。项目地址：https://bmild.github.io/rawnerf/黑夜中的RawNeRF在此之前，NeRF是使用色调映射的低动态范
最近，网上一段来自谷歌的AI夜景拍摄视频被刷爆了！
视频中的这个技术叫RawNeRF，顾名思义就是NeRF的一个全新变体。
NeRF是一种全连接神经网络，使用2D图像的信息作为训练数据，还原出3D场景。
RawNeRF比起之前的NeRF，有了多处改进。不仅能完美降噪，还能改变相机视角，调整焦点、曝光和色调映射。谷歌的这篇论文于2021年11月发表，并被CVPR 2022收录。
项目地址：https://bmild.github.io/rawnerf/
黑夜中的RawNeRF
在此之前，NeRF是使用色调映射的低动态范围LDR图像作为输入。
而谷歌的RawNeRF改为直接在线性原始图像上进行训练，可以保留场景的完整动态范围。
在合成视图领域，处理黑暗的照片一直是一个难题。
因为在这种情况下，图像中的细节极少。而且这些图像让我们很难把新视图拼接到一起。
还好，我们有一个新的方案——使用原始传感器（RAW sensor data）的数据。
就是像这样的一张图，这样，我们就有了更多的细节。
不过，仍然存在一个问题：噪点也多了。
所以我们必须做个选择：是更少的细节和更少的噪点，还是选择更多的细节和更多的噪点。
好消息是：我们可以使用图像降噪技术。
可以看到，降噪之后的图像效果不错，但要合成视图，这种质量还是不够。
不过图像降噪技术给我们提供了一个思路：既然可以给单个图像去噪，那也可以给一组图像去噪。
让我们来看看RawNeRF的效果。
而且，它还有更多令人惊喜的功能：对基础数据进行色调映射，从深色图像中提取更多细节。
比如改变图像的焦点，营造出很棒的景深效果。
更厉害的是，这个还是实时的。
此外，图像的曝光也会随着焦点的变化而产生相应的变化！
接下来，就让我们看看RawNeRF的五个经典的应用场景吧。
五大经典场景
1. 图像清晰度
看这张图像，你能看到路牌上的信息吗？
可以看到，经过RawNeRF处理后，路牌上的信息就清晰多了。
在下面这个动图里，我们可以清晰地看到原始的NeRF技术和RawNeRF在图像合成上的区别。
其实，所谓的NeRF也并不是多古老的技术，时间才刚刚过了2年而已……
看得出来，RawNeRF在高光的处理上，表现得还是非常出色的，我们甚至能看到右下角车牌周围的高光变化。
2. 镜面高光
镜面高光属于非常难捕捉的对象，因为在移动相机时，它们会发生很大的变化，而且照片之间的相对距离也比较远。这些因素对于学习算法来说，都是巨大的挑战。
在下面这张图中可以看到，RawNeRF所生成的镜面高光可以说是相当还原了。
3. 薄的结构
即使在光线充足的情景中，以前的技术对于栅栏的显示效果也并不好。
而RawNeRF即使处理有一堆栅栏的夜间照片，也妥妥hold得住。
即使在栅栏与车牌重合的地方，效果依然很好。
4. 镜面反光
路面上的反光，是一种更有挑战性的镜面高光。可以看到，RawNeRF也处理得非常自然，非常真实。
5. 改变焦点，调整曝光
在这个场景中，让我们试试改变视角，不断变换焦点，同时调整曝光。
在以前，要完成这些工作，我们需要从25到200张照片的集合。
而现在，我们只需要几秒钟，就可以完成拍摄了。
当然，RawNeRF现在并不完美，我们可以看到，左边的RawNeRF图像和右边的真实照片，还是有一些差异。
不过，从一组充满噪点的原始图像达到现在这样的效果，RAWnerf已经取得相当大的进步了。要知道，两年前的技术还完全做不到这样。
RAW的好处
简单回顾一下，NeRF训练管线所接收的是经过相机处理的LDR图像，之后的场景重建和视图渲染，基于的都是LDR色彩空间。因此，NeRF的输出实际上已经是经过了后期处理的，想要大幅修改和编辑是不可能了。
相比而言，RawNeRF是直接在线性原始HDR输入数据上训练的。由此产生的渲染结果可以像任何原始照片一样进行编辑，如改变焦点和曝光等等。
由此带来的好处主要有两点：HDR视图合成和降噪处理。
在亮度变化极大的场景中，固定的快门速度不足以捕捉到全部动态范围。RawNeRF模型则可以同时对短曝光和长曝光进行优化处理，从而恢复完整的动态范围。
例如（b）中的这种大光比场景，就需要更复杂的局部色调映射算法（例如HDR+后期处理），才能同时保留暗部的细节和室外的高光。
此外，RawNeRF还可以使用线性颜色渲染具有正确饱和的「虚化」亮点的合成失焦效果。
在图像噪点的处理上，作者进一步地将RawNeRF在完全未经处理的HDR线性原始图像上进行了训练，使其变成了一个能处理几十甚至几百张输入图像的「降噪器」。
这种鲁棒性也就意味着，RawNeRF可以出色地完成在黑暗中重建场景的任务。
例如在（a）这个只有一根蜡烛照明的夜景中，RawNeRF可以从嘈杂的原始数据中提取出本来会被后期处理破坏的细节（b，c）。
作者介绍
论文的第一作者Ben Mildenhall是谷歌研究院的一名研究科学家，从事计算机视觉和图形方面的问题。
他在2015年于斯坦福大学取得计算机科学和数学学士学位，并在2020年于加州大学伯克利分校取得计算机科学博士学位。
刚刚结束的CVPR 2022，可以说是Ben的高光时刻了。
7篇录用论文中有5篇拿下Oral，并且还有一篇获得了最佳学生论文的荣誉提名。
网友评论
视频一出，立马惊艳了众网友。大家一起脑洞大开。
看这技术进步的速度，要不了多久，夜间拍照再也不用愁了~
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。