Depth guided any-to-any image relighting aims to generate a relit image from the original image and corresponding depth maps to match the illumination setting of the given guided image and its depth map. To the best of our knowledge, this task is a new challenge that has not been addressed in the previous literature. To address this issue, we propose a deep learning-based neural Single Stream Structure network called S3Net for depth guided image relighting. This network is an encoder-decoder model. We concatenate all images and corresponding depth maps as the input and feed them into the model. The decoder part contains the attention module and the enhanced module to focus on the relighting-related regions in the guided images. Experiments performed on challenging benchmark show that the proposed model achieves the 3 rd highest SSIM in the NTIRE 2021 Depth Guided Any-to-any Relighting Challenge.


翻译:深度引导任何到任何图像的点亮, 目的是从原始图像和相应的深度地图中生成一幅图像, 以匹配给定的引导图像的光照设置及其深度地图。 根据我们所知, 这项任务是以前文献中尚未解决的新挑战。 为了解决这个问题, 我们建议建立一个深层次学习的神经单一流结构网络, 名为 S3Net, 以深度引导图像点亮。 这个网络是一个编码器- 解码器模型。 我们将所有图像和相应的深度地图作为输入输入并输入模型。 解码器部分包含关注模块和强化模块, 以聚焦于受引导图像中与亮光有关的区域。 在具有挑战性的基准上进行的实验显示, 拟议的模型实现了NTIRE 2021 深度引导任何光化挑战中的第3个最高 SISIM 。

0
下载
关闭预览

相关内容

【如何做研究】How to research ,22页ppt
专知会员服务
114+阅读 · 2021年4月17日
图像分割方法综述
专知会员服务
56+阅读 · 2020年11月22日
专知会员服务
61+阅读 · 2020年3月19日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
60+阅读 · 2019年10月17日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Unsupervised Learning via Meta-Learning
CreateAMind
43+阅读 · 2019年1月3日
计算机视觉近一年进展综述
机器学习研究会
9+阅读 · 2017年11月25日
【推荐】全卷积语义分割综述
机器学习研究会
19+阅读 · 2017年8月31日
Arxiv
0+阅读 · 2021年6月30日
VIP会员
相关VIP内容
【如何做研究】How to research ,22页ppt
专知会员服务
114+阅读 · 2021年4月17日
图像分割方法综述
专知会员服务
56+阅读 · 2020年11月22日
专知会员服务
61+阅读 · 2020年3月19日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
60+阅读 · 2019年10月17日
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Unsupervised Learning via Meta-Learning
CreateAMind
43+阅读 · 2019年1月3日
计算机视觉近一年进展综述
机器学习研究会
9+阅读 · 2017年11月25日
【推荐】全卷积语义分割综述
机器学习研究会
19+阅读 · 2017年8月31日
相关论文
Top
微信扫码咨询专知VIP会员