你应该相信你自己的两只眼睛看到什么吗? Deepfakes的恶意意图

你怎么知道你什么时候看着你所看到的人是真实的?

在过去,它对肉眼显而易见,但随着过去几年的AI快速进步,发现你在视频上看到的人是否是真实的,它越来越难。

它听起来几乎是难以置信的 - 也许是来自未来派科幻电影的东西。但我们在过去几个月里看到了令人震惊和略微可怕的“Deepfakes”的例子。在它可能拥有相机和高技术软件的专家曾经采取过专家,现在可以使用新手来改变死者相对于他们简单地通过电话应用程序演讲的视频。

这种类型的视频操纵可能导致一系列问题 - 大多数是显而易见的。通过奥巴马的假视频,唐纳德特朗普的“完全迪普特”,马克扎克伯格吹嘘了“数十亿人被盗的数据”和一个假的汤姆巡航练习高尔夫在Tiktok上发布了一句钝的警告,“恶意行为者几乎肯定会在未来12-18个月内利用网络和外国影响的合成内容”。这种合成含量可以参考任何被操纵的内容 - 视觉(视频和照片)和口头(文本和音频),包括DeepFakes。

对Deew的逮捕已经存在了一段时间。 2018年,我们在第一次在互联网上出现的Deepfakes在互联网上出现之后,视频是否能够在互联网上出现的一年内被破译。回来后,内容的质量使得它显而易见的是它被篡改了。 “2019年1月,深沉的假货是越野车和闪亮”,  说过  Hany Farid,UC Berkeley教授和Deepfake专家 福布斯 .

DeepFake内容在线也在迅速增长。根据  一份报告 由DeepTrace进行,在2019年初,在线有7,964个DeepFake视频。九个月后,这个数字已经上升至14,678。 “我从未见过任何像他们要快的东西。这是冰山一角“,解释了Farid。

从公共安全,假新闻和复仇色情,Deepfakes造成了一个哗然的骚动,通过将老人的亲戚们带到生命的旧照片来感受到感受的人,受害者在致密的视频中,他们正在做他们从未做过的事情。本月我们已经看到了一位母亲被控以多次骚扰的骚扰 据报道,使用 明确的DeepFake照片和视频,以试图让她的十几岁的女儿’S的啦啦队竞争对手踢出了球队,它基本上展示了任何人可以操纵有害动机的内容的方式。

并非所有人都是厄运和沮丧,因为这种新现象也被视为“内容创造的未来”。几个月前,韩国的电视观众正在观看MBN频道,以赶上最新消息,但通常的新闻记者,金乔-HA,尚未’实际上在屏幕上。观众已被告知Joo-HA事先不是真实的,并且该渠道已经被认为继续使用Deepfakes进行一些突发新闻报道。 韩国媒体报道了人们看到它后的混合反应,有些人对现实主义感到惊讶,别人感到担心真正的金乔 - 哈可能会失去她的工作。尽管可能存在负面结果,但这种情况就像任何技术进步一样,展示了可能来自创新AI的良好,特别是对于企业来说。

Deepfakes有可能成为国家安全风险。

“这是内容创造的未来“,综合–一个以伦敦为主的公司,创造了AI动力的企业培训视频–首席执行官和联合创始人Victor Riparbelli说 到BBC. .

研究进行了研究 Kietzmann等人 已经表明,这是明确的商业机会,具有这个AI的发展。有些人仍然可以实现,而其他人已经实现了 - 例如综合的企业视频,可以允许内部培训内容被翻译成多种多语言。在他们的 研究 ,Deepfakes分为五种不同的类别:语音交换 - 这可能使录音更容易;发言 - 语音 - 这可能会给那些失去易于说话能力的人(如中风受害者)发出声音;视频面部交换 - 具有上述内部培训视频或南加州大学的潜力’S Shoah基金会在证词项目中的维度,允许游客提出提示从预先记录的视频访谈中迅速响应的问题;全身木偶 - 可以看到游戏中的增强,也许是特技在电影中的双打;而且,唇部同步 - 可以使被称为电影更容易观看。

显然有一个充满令人兴奋的可能性的包包,腰部涌现,但我们不能忽视它可能带来的问题。

法律在哪里站在德国人?

Deepfakes有可能成为国家安全风险。一个主要例子是它有潜力稳定政治的潜在 - 看看仅仅是从他们的总统成为德国人的电视地址的关注。上个月,比利时的一个政治小组发布 一个深蓝的视频 比利时总理发表致辞,将Covid-19爆发与环境损害联系起来,呼吁对气候变化的激烈行动。有些人会认为视频是真实的。不仅有可能传播假新闻,而且有可能导致动荡,网络犯罪,复仇色情,假丑闻和在线骚扰和虐待的兴起。甚至视频镜头在用作法庭上的证据时可能会变得无用。

该等技术的规定要求法律反应,并以复杂的发展趋势为单位。

新法律  为了规范,使用Deepfakes对那些有损坏的视频的人来说很重要。拿 Photoshop Laver., 例如。在美国,FTC一直在实施 真实性的法律 多年来,但他们缓慢响应图像矫正。但是,在全球各国,立法者和监管机构开始采取行动通过通过法律,如 以色列的Photoshop法律 这需要广告商标记被标记的图像。即使这触及身体形象的更多触摸,而且其心理影响而不是网络犯罪或政治战争,这些法律就可以降低消费者被欺骗的风险。如果扩展到DeepFakes,内容创建者可能必须陈述当他们的视频不是真实时。生产者和经销商也可以很容易地对法律犯规,因为它可能会侵犯版权法,违反数据保护法,如果暴露受害者嘲笑,则诽谤;复仇色情法的法律也可以适用于DeepFakes,例如通过电报创建的人–主要是一个消息传递应用程序,它促进了自治程序(称为“机器人”),其中一个可以数字综合DeepFake裸体图像[1]。一份报告发现,70%的电报用户使用其DeepFake Bot来定位妇女,截至2020年7月底,至少有104,852张假裸体图像已共享。

该等技术的规定要求法律反应,并以复杂的发展趋势为单位。但是,正如我们所知道的那样,法律往往是缓慢的回应。英国正在考虑立法,社交媒体平台可能会面临促进此类内容的罚款。该提案可以使电报等公司对其用户的安全,并对其服务的内容或活动引起的危害进行伤害。进展已经摇摇了,立法可能无法通过  直到2023年 ,完全展示了立法变革的缓慢。如果是修改,美国可以采取类似的方法 通信十足法案第230条 - 为互联网公司提供互联网公司的法律,几乎为第三方在其平台上发布的任何内容的民事免疫力;但它已经又一次讨论了时间和时间,并仍然打开一罐致辞审查的蠕虫。加利福尼亚州已经尝试过禁止Deepfakes, 去年制定法律 在选举后60天内创造或分发政治家的Deepfakes非法[2]。但是,保护公民对言论自由权的第一个修正案可能使得难以进一步扩展这一点。

在观看内容时,人们需要谨慎,现在比以往任何时候都更多。

Kietzmann等人在上述研究时,他们提出了一种可能的解决方案,称为R.E.A.L.框架: REcord原始内容,以确保赋予能力, E早期xpose deepfakes, A戴上法律保护,和 Leverage信任反互惠。 “遵循这些原则,我们希望我们的社会可以更准备好抵抗Deepfake技巧,因为我们欣赏Deepfake Treats”,这是纸张状态。

在观看内容时,人们需要谨慎,现在比以往任何时候都更多。然而,更重要的是,法律需要更清楚地对Deew表格的合法和非法。来自商业问题,例如世卫组织将拥有一个死者的人们的人权,以网络犯罪的关注,透明和无穷无尽的互联网,这将是政府破译的一项棘手的法律。

[1] //theconversation.com/can-the-law-stop-internet-bots-from-undressing-you-149056

[2] //www.forbes.com/sites/robtoews/2020/05/25/deepfakes-are-going-to-wreak-havoc-on-society-we-are-not-prepared/?sh=5eb6e6177494

发表评论