首页 > 北京赛车pk拾计划

北京赛车pk拾计划

欢迎关注“创事记”微信订阅号:sinachuangshiji

韩国游戏巨头研究头像AI卡通化,终于实现了翻译的“信达雅”。

文/光谱

来源:硅星人(ID:guixingren123)

年轻一代人当中,很多都是ACG(动画、漫画和游戏)死忠。在社交网络上,经常会看到动漫角色的头像,因为对于这部分用户来说,共同的爱好是他们鉴别彼此、增进交流的一种有效方式。

然而有两个小问题:首先,热门动漫作品就那么几部,撞头像的事故经常发生。以及,甭管账户的主人是什么性别,头像一水都是可爱女生,时间长了毫无辨识度了。每次上网看帖,就像围观一帮动漫角色在互相留言点赞……

我们都知道,最近几年基于神经网络的AI发展的很快,其中有一种技术叫做风格迁移(styletransfer),简单来说就是让图片A获得图片B的风格,但仍然具有明显的A的特征。

有了这项技术之后,ACG爱好者也可以让自己的头像具有动漫风格了。只是效果仍然不是很令人满意,看起来像是用画笔和颜色对人脸照片描边而已:

这种风格迁移其实有点违背初衷:很多人用动漫头像是为了可爱,可是最终输出看起来一点都不可爱。

然而ACG爱好者是不会停止脚步的!

一群韩国的AI研究者最近发布了一篇论文,展示了他们在图片到图片翻译(image-to-Image Translation)上取得的重要进展。

他们实现的效果,看起来更像是找了一位漫画家,对着原始照片认真地再创作,效果超过了所有现存的头像卡通化技术

用红框标出的分别为原图 (a)和输出结果(e),输出的头像不但风格更加接近我们经常在动漫当中看到的形象,和原图的可识别度也很高。

在非监督学习的方法和生成对抗网络(简称GAN)的架构基础上,研究者加入了全新的注意力模块,并发明了一种名为“自适应层-实例归一化” (Ada LIN) 的归一化机制,开发出一种全新的神经网络。

这一研究被命名为 U-GAT-IT: Unsupervised Generative Attentional Networks with Adaptive Layer-Instance Normalization for Image-to-Image Translation [1].

正是因为研究者设计的全新的注意力和归一化机制,我们可以从输出结果中看到,这个神经网络对于不同特征进行了不同的处理。

该放大的特征,比如眼睛,被放大了;该缩小的特征,比如鼻子、嘴巴,也得到了缩小;至于其它特征,比如发型、发色、肤色,甚至包括面部阴影,也有相当准确的还原。

研究者指出,之前的图像风格迁移结果,之所以看起来像描边,是必须把原图的线条背景映射到输出结果上;而他们开发的注意力和归一化机制,能够对原图和目标风格图进行注意力绘制,然后引导模型对不同的区域和特征进行不同的重构。

也就是说,这个新的模型能够理解,动漫头像必须有大眼睛、更具线条感的头发,以及更鲜亮的发色和瞳色。它会按照这些(从输入的参考头像中取得的)原则去进行翻译。

研究者在论文中提到,他们的这个模型在简单的风格迁移基础上,已经上了一个新的台阶,有了变形的能力(objecttransfiguration)。

他们发明的自适应层-实例归一机制Ada LIN,还有一些其它优势,比如可调节性,研究者可以对层 (Layer)和实例(Instance)分别进行调整,从而在输出中实现不同程度的形状和材质变化。

下图中可以看到,从横排第三到第六,是对归一机制进行调整所得到的不同结果:

在文字翻译中,输出的结果要符合对象语言的语法、使用习惯等等。在图片翻译(image-to-Image Translation)中其实也是一样。你可以这样理解:之前的风格迁移,都只是在做“字面翻译”,而U-GAT-IT在“信达雅”上实现了突破。

该技术的另一厉害之处,是可以对几乎任何类型的照片(动物、宠物脸部、风景)进行准确的图片翻译,而且不需要对神经网络的参数进行任何调整:

值得提及的是,包括Kim在内的三名作者均来自人称游戏界“高丽双雄”之一的韩国游戏公司NCsoft;另一作者来自波音韩国工程科技中心。

NCsoft开发的老牌网游《天堂》(Lineage1& 2) 于1998年上线,已经在包括中国在内的多国连续运营21年,还有《永恒之塔》等几款知名游戏。但少有人知的是,实际上NCsoft也是韩国在人工智能研发方面最激进的公司之一。

据《韩国时报报道》,NCsoft在2011年就已设立了专门研发团队,目前运营着人工智能中心、自然语言处理中心两个独立的研究机构。前者负责游戏AI、语音识别和计算机视觉,后者主攻语言理解和知识系统。

两个中心的负责人直接向公司创始人兼CEO金泽辰直接管理,员工总数约为160人,今年内将增员到300人左右。

NCsoft投入深度学习的主要目的,是在游戏和服务中引入相关技术。目前,该公司正在使用AI检测外挂,以及基于玩家的游戏习惯和兴趣数据进行服务定制化。

而本文所提到的这项技术,将能够极大改善玩家的游戏体验——或许以后不用捏脸,只要上传头像,就能生成准确的卡通化游戏角色了。

波音去年刚刚在韩国成立工程和科技中心,主要研究方向包括自动化、人工智能、航空电子学和数据分析等等。该机构的技术员工主要来自韩国本土的知名高校和科技公司等。

目前,这项技术还没有一个可用的demo,不过如果你对TensorFlow比较熟悉,可以在GitHub上浏览代码[2]或阅读原文并按照使用说明,在自己的电脑上跑起来~

[1] U-GAT-IT:UnsupervisedGenerative Attentional Networks with Adaptive Layer-Instance Normalization for Image-to-Image Translation https://arxiv.org/pdf/1907.10830.pdf

[2] https://github.com/taki0112/UGATIT

copyright © 2010-2019, All Rights Reserved.

本站声明:本站内容均来自网络转载或网友提供,如有侵权请及时联系我们删除!本站不承担任何争议和法律责任!