Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

泽南、小舟报道

1.5K star量,上古老番变4K,B站开源超分辨率算法

这是 B 站 AI 实验室的最新成果。

喜欢看动漫的人经常会被一些经典作品的情节所吸引,不过画面质量是欣赏下去的大敌 —— 那些超过十年历史的内容自不必说,直到现在,很多动画的实际分辨率也只是 720p 左右,然后被拉伸到 1080i 以满足电视台播放的需求,BD(蓝光)清晰度也只有 1080p。

究其原因,还是成本问题:在动画制作过程中,让分辨率提升一个级别,就会导致所有的制作资源大幅提升,从作画、扫描到处理和存储,整个产业链条都需要软硬件的提升。

但今天即使是手机也有个 2K 的分辨率,既然手绘动画难以提升分辨率,那么能不能用 AI 算法来解决这个问题?

最近,GitHub 上一个图像超分辨率的项目火了,一个叫做 Real-CUGAN 的工具可以把动画图像的质量提升 2 到 4 倍,qq 上斗图的表情包也能给你脑补成 4k 品质。
仔细一看,这个项目来自 bilibili 人工智能实验室。上线 20 天,star 量已达 1.5K。
项目链接:https://github.com/bilibili/ailab/tree/main/Real-CUGAN

据作者介绍,Real-CUGAN 是一个使用百万级动漫数据进行训练的,结构与 Waifu2x 兼容的通用动漫图像超分辨率模型。相比目前市面上已有的通用化超分辨率算法,Real-CUGAN 的 AI 模型经过了更大体量数据集的训练,处理二次元内容的效果更佳。

它支持 2x\3x\4x 倍超分辨率,其中 2 倍模型支持 4 种降噪强度与保守修复,3 倍 / 4 倍模型支持 2 种降噪强度与保守修复。

Real-CUGAN 全称为 Real Cascaded-U-Net-style Generative Adversarial Networks(真实的、级联 U-Net 风格的生成对抗网络),使用了与 Waifu2x 相同的动漫网络结构,但因为使用了新的训练数据与训练方法,从而形成了不同的参数

具体来说,该动漫超分模型训练先行对动漫帧进行切块处理,使用图像质量打分模型对候选块进行打分过滤,得到一个百万级的高质量动漫图像块训练集。然后使用多阶段降质算法,将高清图像块降采样得到低质图像,让 AI 模型学习、优化从低质图像到高质图像的重建过程,训练完毕后即可对真实的二次元低质图像进行高清化处理。

在 GitHub 项目中,作者开源了推理阶段的模型参数与推理代码。

下面,我们来看一下 Real-CUGAN 的修复效果。

图源:https://github.com/bilibili/ailab/tree/main/Real-CUGAN

为了进一步查看几种修复方法的差距,研究团队将 Real-CUGAN 的修复效果和 Waifu2x、RealESRGAN 进行比较。

下图是动漫《侦探已死》中的画面,其中几种方法对沙发纹理的修复差距显著。可以看到,在 Real-CUGAN 的修复结果中,沙发上的横向条纹清晰可见,并且几乎没有中断的部分:

在动漫中,人物清晰的线条对角色形象的塑造具有重要的作用。线条模糊会严重影响观看体验。以下图为例,Real-CUGAN 清晰地修复了动漫中角色的表情线条:

当然,有些场景并非越清晰越好,比如画面中的一些远景,原本就是刻意虚化的。以下图为例,Real-CUGAN 修复之后,近景处的人物形象变得更清晰,远处的蜡烛仍然保持模糊,使得画面更有层次感。
还有一些动漫由于年代久远,受当时技术条件的限制,画质着实「感人」。例如许多人的童年回忆《黑猫警长》,先前的模型 RealESRGAN(下图第三列)已获得了不错的修复效果。相比之下 Real-CUGAN(下图第四列)更好地修复了一些杂线、模糊的问题,让画面更加干净清晰。
更为重要的是这项技术想要用很简单:你下载的模型已训练好,修改 config.py 配置参数,双击 go.bat 运行即可。Real-CUGAN 不仅可用 cuda 加速,也支持 AMD 系列的显卡,处理速度还很快,笔记本电脑也可以跑得起来。

虽然 Real-CUGAN 默认是只处理静态图片的,但很多人已尝试把视频拆解成单帧序列进行处理。如此一来,很多上古老番都能自己上手让它们焕然一新了。

目前 B 站上已经有人上传了一些使用新技术处理过的视频,比如这个在 1080p BD 基础上超分到 4K 的:

链接:https://www.bilibili.com/video/BV1CY411t7aV 

在很多电影修复之后,老番高清计划也已在路上。B 站表示,将针对不同品类适配不同的超分算法,并且使用窄带高清算法降低卡顿,提高流畅度。

参考内容:
https://www.bilibili.com/read/cv15031073
入门超分辨率算法B站
相关数据
人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

参数技术

在数学和统计学裡,参数(英语:parameter)是使用通用变量来建立函数和变量之间关系(当这种关系很难用方程来阐述时)的一个数量。

降采样技术

降采样是数位信号处理领域中的一种多速频数字信号处理(multi-rate digital signal processing)系统中采样率转换(sample rate conversion)技术的一种,或指代用来降低信号采样率的过程,与插值相反——插值用来增加取样频率——降采样通常用于降低数据传输速率或者数据大小。因为降采样会有混叠的情形发生,系统中具有降采样功能的部分称为降频器(decimator)。

生成对抗网络技术

生成对抗网络是一种无监督学习方法,是一种通过用对抗网络来训练生成模型的架构。它由两个网络组成:用来拟合数据分布的生成网络G,和用来判断输入是否“真实”的判别网络D。在训练过程中,生成网络-G通过接受一个随机的噪声来尽量模仿训练集中的真实图片去“欺骗”D,而D则尽可能的分辨真实数据和生成网络的输出,从而形成两个网络的博弈过程。理想的情况下,博弈的结果会得到一个可以“以假乱真”的生成模型。

AMD机构

超威半导体(中国)有限公司专门为计算机、通信和消费电子行业设计和制造各种创新的微处理器(CPU、GPU、主板芯片组、电视卡芯片等),以及提供闪存和低功率处理器解决方案,公司成立于1969年。AMD致力为技术用户——从企业、政府机构到个人消费者——提供基于标准的、以客户为中心的解决方案。

https://www.amd.com/zh-hans
生成对抗技术

生成对抗是训练生成对抗网络时,两个神经网络相互博弈的过程。两个网络相互对抗、不断调整参数,最终目的是使判别网络无法判断生成网络的输出结果是否真实。

推荐文章
暂无评论
暂无评论~