泛亚电竞登录|人工智能生成的合成媒体，DeepFake 相识一下

ITDaily & AI 中国逐日最新 IT 圈 AI 圈新鲜事吐槽 给你想看的原文 | https://towardsdatascience.com/ai-generated-synthetic-media-aka-deepfakes-7c021dea40e1作者 | Ashish Jaiman 编译 | 亚飞人工智能(AI)和云盘算的进步，使得音频、视频和图像处置惩罚技术的庞大性获得了快速、便捷的生长。综述&先容想象一下，在选举前几天，一个候选人的视频被公布，显示他们使用愤恨言论，种族污蔑，以及削弱他们作为亲少数族裔的形象。

想象一下，一个十几岁的孩子看着一段令人尴尬的露骨视频在社交媒体上流传。想象一下，一个CEO在筹集资金的路上，当一段陈述她对产物的恐惧和焦虑的音频片段被发送给投资人时，毁掉了她乐成的时机。以上所有的场景都是假的、编造的，并不是真实的，但可以通过人工智能生成的合成媒体，也就是所谓的DeepFake[1]，使之成为现实。同样的技术，可以让一位因卢伽雷氏病而失声的母亲用合成语音与家人对话，也可以用来生成政治候选人的假演讲，以损害其名誉。

同样的技术，可以让老师使用合成视频与学生举行有效的互动，也可以用来制作一个青少年的假视频来损害其声誉。人工智能(AI)和云盘算技术、GPU虚拟机宁静台服务的进步，使得音频、视频和图像处置惩罚技术的庞大性获得了快速生长。商品化云盘算的接入、公共研究的人工智能算法，以及富厚的数据和多样化海量媒体的可用性，为合成媒体的创作民主化缔造了一场完美的风暴。

这种人工智能生成的合成媒体被称为深层捏造。通过社交平台，合成媒体的流传实现了规模化的民主化。

Deepfakes是使用人工智能技术的深度（深度）学习生成的合成媒体（假）。GAN技术的创新和研究，加上盘算的日益普及，使得合成数据的质量以惊人的速度提高。

新的工具，其中许多是公然的，可以以越来越可信的方式利用媒体，例如建立一个民众人物的声音副本或将一小我私家的脸叠加到另一小我私家的身体上。GAN和deepfakes已经从研究和学术课题生长到企业创新、娱乐和到场社会运动的实际应用。Cheapfake是通过简朴的通例编辑技术，如加速、减速、剪切等，以及非技术性的操作，如重新编排或重构现有媒体。

廉价伪造的一个例子是 "醉酒的佩洛西 "视频[2]。最近，我们看到一些政治广告中使用了重新着色和修饰的手法，这也是一种廉价的赝品[3]。Cheapfakes或Shallowfakes被界说为通过使用更直接的图像和视频编辑技术来流传错误/虚假信息或改变故事的叙事的利用媒体。

深度伪装的类型Deepfakes已经成为换脸和对口型的代名词。另有许多其他类型的基于人工智能的音频、视频和图像的操作都可以被称为Deepfakes。换脸换脸是指一小我私家的脸被另一小我私家的脸或另一张脸的关键特征所取代或重构。

脸部交流或用滤镜举行操作，险些是所有社交媒体、视频谈天应用的常见功效。从2014年开始，社交媒体应用Snapchat就有了增强人脸的滤镜。

使用人脸检测镜头技术，你可以让自己变老，添加美颜滤镜，或者给自己装上猫耳朵和髯毛。这些应用和技术的输出将被定性为AI-Generated合成媒体或deepfakes。

大量的免费和付费应用和在线工具让两小我私家的换脸变得超级简朴。开发者可以使用GitHub上的Faceswap和DeepFaceLab的开源代码来建立很是庞大的deepfakes，并在定制代码和训练AI模型方面做出一些努力。

操控术操控术是用人工智能渲染利用的全身行动和行为。它是一种在视频中建立目的脸部和身体的3D模型来作为木偶人的行为和说的技术。它也被称为全身深度假行动。

2018年8月，加州大学伯克利分校揭晓了一篇名为《Everybody Dance Now》的论文[4]。这是研究人工智能如何将专业舞者的行动转移到业余喜好者的身上。

日本人工智能公司Data Grid缔造了一个AI引擎，可以自动生成广告和时尚的虚拟模型。唇语同步唇语同步是一种渲染嘴部行动和面部心情的技术，让目的人物用声音和正确的语气和音调说事情。

AI算法可以将一小我私家说话的现有视频，改变视频中的唇部行动，以匹配新的音频。这些音频可能是断章取义的旧讲话，也可能是模拟者说话或合成的讲话。演员和导演乔丹-皮尔就用这种技术制作了奥巴马的病毒视频。

语音克隆Voice Coning是一种深度学习的算法，它可以吸收小我私家的语音记载，生成与原声太过相似的合成语音。它是一种建立小我私家的自界说语音字库，然后用字库来生成语音的技术。

开发合成语音的应用和云服务有许多，微软定制语音、Lyrebird AI、iSpeech和VOCALiD，小我私家和企业都可以使用这样的技术来提高自己的机构。图像合成图像生成或图像合成是一种使用盘算机视觉技术、深度学习和生成式反抗网络（GANs）来合成新图像的技术。它可以生成盘算机生成的人或任何非真实物体的图像。

英伟达的一个团队用从Flickr上提取的人脸图片训练了一台盘算机，建立了网站ThisPersonDoesnotExist.com。在网站ThisXDoesnotExist.com上另有其他例子。文本生成文本生成是使用人工智能技术举行文本和深度学习，自动生成文本，写故事、散文和诗歌，建立长文档的摘要，以及综合的方法。

使用RNN（循环神经网络）和现在的GANs，文本生成有许多实际的使用案例。文本生成可以资助行业中新的自动化新闻或机械人新闻事情。OpenAI的GPT-3可以生成任何文本，包罗吉他标签或盘算机代码。

正面使用技术能够增强人们的能力，是一个很好的推动力。技术可以让人们有话语权，有目的，有能力大规模、快速地发生影响。由于数据科学和人工智能的进步，泛起了新的赋能理念和能力。人工智能合成媒体有许多努力的应用案例。

技术可以为所有人缔造可能性和时机，不管他们是谁，也不管他们如何听、如何说、如何相同。深假技术的进步在某些领域有显着的利益，好比无障碍、教育、影戏制作、刑事取证和艺术表达。

[我将在以后的文章中探讨努力的使用案例]。恶意使用与任何新技术一样，邪恶的行为者会使用这种创新并为他们的利益服务。GAN和Deepfakes已经不仅仅是研究课题或工程玩具。从一个创新的研究观点开始，现在它们可以作为一种通信武器使用。

Deepfakes正变得容易缔造，甚至更容易在政策和立法真空中流传。Deepfakes使编造媒体--换脸、对口型和木偶人--成为可能，大多数情况下，无需同意，并给心理宁静、政治稳定和商业滋扰带来威胁。

深度造假可以用来损害名誉、捏造证据、欺骗民众、破坏对民主体制的信任。近两年，使用生成式人工智能模型建立的合成数据被恶意使用的可能性开始引起人们的警惕。

该技术现在已经生长到可能被武器化，对小我私家、社会、机构和民主制度举行破坏和伤害。Deepfakes可以促进事实相对主义，并使专制向导人得以生长。Deepfakes不仅会造成伤害，还将进一步侵蚀人们对媒体已经下降的信任。它还可以资助民众人物将自己的不道品德为隐藏在Deepfakes和假新闻的面纱中，将他们的实际危害行为称为虚假行为，也就是所谓的骗子红利。

非国家行为者，如叛乱组织和恐怖组织，可以使用Deepfakes来代表他们的对手揭晓煽动性言论或从事挑衅性行动，以煽感人们的反国家情绪。例如，一个恐怖组织可以很容易地制作一个假视频，显示士兵对宗教场所的不敬，以点燃现有的反国家情绪，造成进一步的反面谐。国家可以使用类似的计谋来流传针对少数族裔社区或另一个国家的盘算宣传，例如，一个假视频显示一个警员高喊反宗教的污言秽语，或者一个政治运动家呼吁暴力。

所有这些都可以用较少的资源、互联网规模和速度来实现，甚至可以通过微目的来引发支持。[我将在以后的文章中探讨深层伪装的负面使用案例和危害]反制措施为了捍卫真相和保障言论自由，我们需要接纳多利益攸关方和多模式的方法。任何减轻恶意深层造假的社会负面影响的对策，其主要目的必须是双重的。

其一，淘汰恶意深层造假的风险，其二，将其可能造成的损失降到最低。恶意深造的有效对策可分为立法行动与法例、平台政策与治理、技术干预和前言素养四大类。

笔者将在以后的文章中探讨有效的对策。参考泉源：[1] https://papers.ssrn.com/abstract_id=3213954[2] https://slate.com/technology/2019/06/drunk-pelosi-deepfakes-cheapfakes-artificial-intelligence-disinformation.html[3] https://www.msn.com/en-us/news/politics/lindsey-graham-campaign-ad-features-image-of-opponent-with-digitally-altered-darker-skin-tone/ar-BB17itff?ocid=msedgntp[4] https://arxiv.org/pdf/1808.07371.pdf。

本文来源：泛亚电竞-www.gzdzbz.com