外国媒体对本网站的报道
该网站因其简洁而引人注目。在白色背景上,一个巨大的蓝色按钮邀请游客上传他们的面部照片。在按钮下方,四个人工智能生成的人脸允许你测试这项服务。在它上面,广告语大胆地宣告了它的目的:通过使用deepfake技术,把人的脸变成成人视频,把任何人变成色情明星。它只需要一张图片和一个按钮。
麻省理工科技评论选择不命名网站,不使用任何直接引用和内容截图。为了避免给网站带来流量,我们就称之为Y。deepfake的研究员Henry Ajder发现并引起了我们的注意,他一直在跟踪在线合成媒体的发展和崛起。
目前Y的存在相对不为人知,只有少部分用户在网络论坛主动向创作者提供开发反馈。然而,外国研究人员担心,这种应用的出现将违反其他服务以前从未跨越的道德底线。
AI换脸软件的起源与发展
从一开始,deepfakes或人工智能生成的合成媒体主要用于制作女性色情作品,在心理上具有毁灭性。最早推广这项技术的Reddit创作者将女明星的脸变成了色情视频。截至目前,研究公司Sensity AI估计,所有在线Deepfake视频中,90%至95%是未经授权的色情内容,其中约90%以女性为主。
随着技术的发展,出现了很多简单易用的无码工具,可以让用户将女性身体的衣服以图像的形式“脱光”。这些服务中的大部分已经被迫下线,但代码仍然存在于开源存储库中,并继续以新的形式出现。据发现该网站的研究人员Genevieve Oh称,2021年8月,该类网站的最新访问量超过670万次,目前尚未下线。
还有其他单照片变脸应用,如ZAO或ReFace,将用户置于主流电影或流行视频中的选定场景。但与其他专门的色情变脸应用相比,Y将其提升到了一个新的高度。EndTAB的创始人亚当·道奇(Adam Dodge)表示,这是“量身定制”的,未经人们同意就制作色情图片。这使得创作者更容易针对这一特定用例改进技术,并吸引了那些原本不会考虑制作深度伪造的色情内容的人。“每当你如此专注,它就会创造一个新的互联网角落,吸引新用户,”道奇说。
Y-技术的证伪
y很好用。用户一旦上传人脸照片,网站就会开放色情视频库。大部分是女性,虽然也有少数是男性,主要是同性恋色情。然后,用户可以选择任何视频,在几秒钟内生成变脸结果的预览,并付费下载完整版,结果远非完美。很多面部交流明显是假的。当他们转向不同的角度时,他们的脸会闪烁和扭曲。对于普通的观察者来说,虽然可以发现一些细微的变化,但是深度伪造的轨迹让他们无法与实际的观看速度区分开来,从而让实物看起来像是赝品。有专家认为,deepfake的好坏也不重要,因为无论哪种方式,对受害者的心理伤害都是一样的。很多人还不知道这项技术的存在,所以就算是低质量的变脸也能忽悠人。
Y的行为给受害者带来了毁灭性的打击
y号称是探索性幻想的安全负责的工具。网站上的语言鼓励用户上传他们的脸。但是什么都不能阻止他们上传别人的脸。网络论坛上的评论显示,用户已经这样做了。
这些活动对妇女和女孩的影响可能是毁灭性的。从心理上来说,这些视频感觉像是复仇色情片——未经许可拍摄或发布的真实私人视频。“这种虐待——人们扭曲你的身份、姓名和名誉,并以如此咄咄逼人的方式改变它——将彻底压垮你,”澳大利亚活动家诺埃尔·马丁(Noelle Martin)说,他是一场深度假色情活动的目标,这种影响可能会伴随受害者一生。图片和视频很难从网上删除,新的素材随时可以创造出来。“会影响你的人际关系;会影响你找工作。你参加的每一次求职面试都可能被提及,”马丁说。“直到今天,我还没有完全成功地删除任何图像。,它会一直在那里。不管我做什么。”
深度攻击
有时候甚至比复仇色情片还要复杂。道奇表示,由于内容不真实,女性可能会怀疑自己是否受到了精神创伤,应该举报。“如果有人想知道他们是否真的是受害者,这将削弱他们的康复能力,”他说。
未经授权的deepfake色情作品也可能对经济和事业产生影响。印度记者Rana Ayyub成为Deepfake色情网站的受害者,受到如此激烈的网络骚扰,她不得不尽可能降低自己的网络形象,从而降低工作所需的公众形象。英国诗人兼广播员海伦·莫特之前在《麻省理工科学评论》上分享了她的故事。她说,在发现自己的照片被人从私人社交媒体账户上窃取以制作假裸体后,她感到有压力这样做。
负责这项服务的政府官员索菲·莫蒂默(Sophie Mortimer)表示,由英国政府资助的复仇色情热线最近收到了一名教师的案例,这名教师在社交媒体上传播了她的深度伪造色情图片后失去了工作,并引起了学校的注意。道奇说:“情况越来越糟,而不是越来越好,越来越多的女性以这种方式成为目标。”
同性恋的致命打击
外国专家Ajder表示,虽然Y制作深度伪造的同性恋色情片的选择有限,但对同性恋为犯罪的国家的男性构成了额外的威胁。全世界71个司法管辖区都是如此,其中11个司法管辖区判处死刑。
色情应用的结束日期
Ajder在过去几年中发现了许多Deepfake色情应用程序。他说,他曾试图联系Y提供托管服务,并迫使其下线,但他对阻止类似工具的创建持悲观态度。另一个网站似乎也在尝试做同样的事情。他认为,禁止在社交媒体平台上发布此类内容,甚至将其创作或消费视为非法,将被证明是一个更可持续的解决方案。“这意味着这些网站的处理方式与暗网材料相同,”他说。“就算是开到地下,至少一般人是看不到的。”
AI色情应用必须终结,科技违法者将受到严惩。-“重建未来”