原题目:人工智能为我们编织了一个“幻象樊笼”

曾经我们一向夸大“目睹为实”,可是,在人工智能成长提高越来越快的今天,我们真的还能信任本身眼睛看到的即为真实的吗?

老话说“目睹为实”,这句话放在几年之前或许还有些可托度,阿谁时辰我们在照片和视频中看到的内容可以说是真实的。即使Photoshopping图像风行开来,我们仍然信任P过的图片也总有个原图。

然而,此刻跟着人工智能的提高,世界变得越来越虚化,你甚至不克不及断定你所看到或听到的是真实的,仍是人工智能和机械发明的。在很多情形下,这项技巧用得很好,但既然它存在,它也可以用来诈骗。

人工智能发明了一个假世界,这对人类意味着什么?

“智能虚构”的迷思

实在,假如不雅众可以或许足够懂得,就会接收人工智能的“虚构”。多年来,为了我们可以或许能快活地享受娱乐品,我们已经开端接收片子和电视屏幕上对实际生涯的表示。不外此刻,好莱坞已经连写脚本都要获得AI协助。

adobe公司正测验考试用机械模拟声音,可创立一份30分钟的合成音频(洛杉矶时报2019年4月13日)

跟着机械进修的成长,算法可以对大批数据进行分类剖析,以懂得哪些元素更有可能使片子获奖,贸易胜利或更受不雅众接待。这是人工智能辅助人们往做一些“发明性运动”的另一个例子,(甚至他们可以本身做,基本用不到人类)

合成的声音

此刻只须要将音频放进机械算法之中,它就能模仿出这小我的声音,从而含混真假之间的界线。这在某些情形下确定会有所辅助,例如修复片子中的即时声音采集,而不消让演员回到现场从头录制,但滥用的机遇也是可能的,而且很轻易想象。

AI拯救渣画质

智能内容

个性化或智能内容的呈现是把双刃剑,其他人工智能法式也一样,它们应当对用户透明,不然就不是“科技引领生涯”而成了“科技误导生涯”。这里说的智能内容是指内容自己依据订阅者的用户画像而自发进行的内容变更,而且正在经由过程Netflix和TikTok(一种短视频利用)进行测试。我们习惯于我们的搜刮和推举引擎依据我们自身特色向我们推送“更合适”的信息,智能内容会答应每个用户获得分歧的体验。

就在我还在看这篇文章的时辰,网站就会给我推送“You may also like”

Deepfake专业“枪手”

GPT2是OpenAI(一个由埃隆·马斯克投资的非营利性研讨组织)开辟的一小我工智能模子。它可以依据你输进进往的数据的说话特色来天生文字内容,非论这是发在伴侣圈的、仍是写进科幻小说里的、仍是其他任何一种语境。该小组没有公然宣布其研讨陈述,由于实际是很恐怖的,他们惧怕技巧被滥用。

不再可托的照片

为了进步对人工智能技巧的熟悉,Phillip Wang创立了网站“这小我不存在。”网站上代表的每一小我脸看起来都像一个真人,但它们都是人工智能天生的。另一个相似的网站,Whichfaceisreal.com,它的创立也是为了进步人们对这种技巧的才能的熟悉,要诈骗人们的确太轻松了。两个站点都旨在反应NVIDIA公司的软件工程师所开辟的技巧有何等的强盛。

他们应用了“通用抗衡收集”(General Adversarial Network),这种技巧就是说,两个神经收集在创立人工图像时重复竞争,经由过程盘算机强盛的高效的盘算才能不竭地往“改正对方”,终极两者之间的息争就是题目的“最优解”。尽管在某些人脸中有一些细节能让他们裸露,但良多情形下都可以以假乱真。

假视频的危险性

乍一看,人工智能的才能发明真切的声音,图像和视频,如斯真切,令人高兴,令人捧腹、令人难以置信。但在深刻懂得这项技巧之前,我们必需停下来斟酌更狠毒的用处。

“Deepfake”技巧应用盘算机天生的音频和视频来浮现并未产生的工作。它被用来交流斯嘉丽·约翰逊的头像以及色情片子中的其他驰名人物,也就是我们说的AI换脸,(此前本号文章中具体谈论过这种被BBC称为“色谍报复的强盛兵器”)

除了小我的虚伪陈说和可能对小我造成的侵害之外,一些立法者还担忧这种技巧可能在互联网上传布的过错信息。

这部奥巴马总统的视频展现了音频/视频被把持的可能性,以便让一个有威望的人说出他们现实上从未做过的工作。除了影响小我名誉之外,这种诈骗可能对国度平安和选举发生负面影响。

Youtube用户用声音模仿软件做出的奥巴马演讲视频

中国的国营消息机构新华社,也开辟了本身的人工智能主持人,假如不是特别阐明,还真的欠好辨别它毕竟是一串代码,仍是一个真实的人。

新华社的AI主持人

跟着AI越来越庞杂,断定什么是真实的和什么是报酬的将变得更具挑衅性。假如“假”信息以文本,照片,音频或视频转达,等闲的困惑民众,则可以用于恶意目标。或许我们再也不克不及信任“目睹为实”了。

翻译并改编自福布斯文章《Artificial Intelligence Is Creating A Fake World — What Does That Mean For Humans?》

原作者:贝纳德·马尔

翻译:冷柠檬,大众号:网易智能(ID:smartman163)

起源:https://mp.weixin.qq.com/s/c3EWq5vJhXj49A4MNFGukA

本文由 @网易智能 授权宣布于人人都是产物司理,未经作者允许,制止转载

题图来自Unsplash,基于CC0协定

义务编纂: