环球门户网

Adobe已经构建了一个deepfake工具但它不知道如何处理它

更新时间:2024-11-05 18:12:18

导读 Deepfakes已经对图像、音频和视频编辑领域产生了巨大影响,那么为什么内容领域的巨头Adob​​e没有更多地参与进来呢?嗯,简短的回答是——...

Deepfakes已经对图像、音频和视频编辑领域产生了巨大影响,那么为什么内容领域的巨头Adob​​e没有更多地参与进来呢?嗯,简短的回答是——但要缓慢而谨慎。在今天的公司年度Max会议上,它推出了一个名为ProjectMorpheus的原型工具,展示了将deepfake技术集成到其产品中的潜力和问题。

ProjectMorpheus基本上是该公司去年在Photoshop中推出的NeuralFilters的视频版本。这些过滤器使用机器学习来调整对象的外观,调整他们的年龄、头发颜色和面部表情(例如,将惊讶的表情变成愤怒的表情)。Morpheus为视频内容带来了所有这些相同的调整,同时添加了一些新的过滤器,比如改变面部毛发和眼镜的能力。将其视为人类的角色创建屏幕。

结果绝对不是完美无缺的,并且与更广泛的深度伪造世界相比,范围非常有限。例如,您只能对面对相机的人的外观进行预先设定的小调整,而不能执行换脸等操作。但是质量会快速提高,虽然该功能目前只是一个原型,不能保证它会出现在Adob​​e软件中,但显然该公司正在认真调查。

不过,ProjectMorpheus也是一种深度伪造工具——这可能是一个问题。一个大的。因为deepfakes以及与之相关的所有内容——从未经同意的色情内容到政治宣传——对商业并不完全有利。

现在,考虑到我们现在对深度伪造的定义松散,Adobe可以说多年来一直在制造这样的工具。其中包括前面提到的神经过滤器,以及更多功能的工具,如AI辅助掩蔽和分割。但ProjectMorpheus显然比公司早期的努力要深得多。这完全是关于编辑人类的视频片段——以许多人可能会觉得不可思议或操纵的方式。

例如,在视频中改变某人的面部表情可能会被导演用来打击坏镜头,但它也可以用来进行政治宣传——例如,让被监禁的持不同政见者在法庭录像中表现得放松,而他们真的很放松被饿死。这就是政策专家所说的“双重用途技术”,这是一种时髦的说法,即该技术“有时可能很好,有时可能很糟糕”。

毫无疑问,这就是为什么Adob​​e在发送给TheVerge的任何简报材料中都没有使用“deepfake”一词来描述该技术的原因。当我们问到为什么会这样时,该公司没有直接回答,而是给出了一个很长的答案,说明它如何认真对待Deepfake带来的威胁以及它正在对它们采取什么措施。

Adobe在这些领域的努力似乎涉及和真诚(他们主要专注于内容身份验证方案),但它们并没有减轻公司面临的商业问题:对其客户群最有用的相同deepfake工具是那些这也可能是最具破坏性的。

例如,将某人的脸粘贴到其他人的身体上的能力——可以说是开始所有这些麻烦的ur-deepfake应用程序。您可能出于正当理由想要换脸,例如授权布鲁斯·威利斯(BruceWillis)在俄罗斯制作一系列移动广告的肖像。但您也可能正在制作未经同意的色情内容来骚扰、恐吓或勒索某人(迄今为止该技术最常见的恶意应用)。

无论您的意图如何,如果您想创建这种深度伪造,您有很多选择,但没有一个来自Adob​​e。您可以聘请精品deepfake内容工作室,使用一些开源软件,或者,如果您不介意您的面部交换仅限于预先批准的模因和gif,您可以下载一个应用程序。你不能做的是启动Adob​​ePremiere或AfterEffects。那么未来这种情况会改变吗?

不能肯定地说,但我认为这绝对是一种可能性。毕竟,Adobe在“Photoshopped”成为一般数字编辑图像的简写之后幸存下来,并且通常带有负面含义。不管是好是坏,deepfakes正在慢慢失去它们自己的负面联想,因为它们被更多的主流项目采用。ProjectMorpheus是一个深度伪造工具,有一些严格的防护措施(例如,您只能进行规定的更改,而不能进行换脸),但它表明Adob​​e决心探索这个领域,大概是在衡量行业和公众的反应的同时。

随着“deepfake”取代“Photoshopped”成为公共领域对造假行为的首选指控,Adobe可能感觉被排除在外。Morpheus计划表明它很可能很快就会赶上。

版权声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢您的支持与理解。