外国媒体对本网站的报道

该网站因其简洁而引人注目。在白色背景上，一个巨大的蓝色按钮邀请游客上传他们的面部照片。在按钮下方，四个人工智能生成的人脸允许你测试这项服务。在它上面，广告语大胆地宣告了它的目的:通过使用deepfake技术，把人的脸变成成人视频，把任何人变成色情明星。它只需要一张图片和一个按钮。

麻省理工科技评论选择不命名网站，不使用任何直接引用和内容截图。为了避免给网站带来流量，我们就称之为Y。deepfake的研究员Henry Ajder发现并引起了我们的注意，他一直在跟踪在线合成媒体的发展和崛起。

目前Y的存在相对不为人知，只有少部分用户在网络论坛主动向创作者提供开发反馈。然而，外国研究人员担心，这种应用的出现将违反其他服务以前从未跨越的道德底线。

AI换脸软件的起源与发展

从一开始，deepfakes或人工智能生成的合成媒体主要用于制作女性色情作品，在心理上具有毁灭性。最早推广这项技术的Reddit创作者将女明星的脸变成了色情视频。截至目前，研究公司Sensity AI估计，所有在线Deepfake视频中，90%至95%是未经授权的色情内容，其中约90%以女性为主。

随着技术的发展，出现了很多简单易用的无码工具，可以让用户将女性身体的衣服以图像的形式“脱光”。这些服务中的大部分已经被迫下线，但代码仍然存在于开源存储库中，并继续以新的形式出现。据发现该网站的研究人员Genevieve Oh称，2021年8月，该类网站的最新访问量超过670万次，目前尚未下线。

还有其他单照片变脸应用，如ZAO或ReFace，将用户置于主流电影或流行视频中的选定场景。但与其他专门的色情变脸应用相比，Y将其提升到了一个新的高度。EndTAB的创始人亚当·道奇(Adam Dodge)表示，这是“量身定制”的，未经人们同意就制作色情图片。这使得创作者更容易针对这一特定用例改进技术，并吸引了那些原本不会考虑制作深度伪造的色情内容的人。“每当你如此专注，它就会创造一个新的互联网角落，吸引新用户，”道奇说。

Y-技术的证伪

y很好用。用户一旦上传人脸照片，网站就会开放色情视频库。大部分是女性，虽然也有少数是男性，主要是同性恋色情。然后，用户可以选择任何视频，在几秒钟内生成变脸结果的预览，并付费下载完整版，结果远非完美。很多面部交流明显是假的。当他们转向不同的角度时，他们的脸会闪烁和扭曲。对于普通的观察者来说，虽然可以发现一些细微的变化，但是深度伪造的轨迹让他们无法与实际的观看速度区分开来，从而让实物看起来像是赝品。有专家认为，deepfake的好坏也不重要，因为无论哪种方式，对受害者的心理伤害都是一样的。很多人还不知道这项技术的存在，所以就算是低质量的变脸也能忽悠人。

Y的行为给受害者带来了毁灭性的打击

y号称是探索性幻想的安全负责的工具。网站上的语言鼓励用户上传他们的脸。但是什么都不能阻止他们上传别人的脸。网络论坛上的评论显示，用户已经这样做了。

这些活动对妇女和女孩的影响可能是毁灭性的。从心理上来说，这些视频感觉像是复仇色情片——未经许可拍摄或发布的真实私人视频。“这种虐待——人们扭曲你的身份、姓名和名誉，并以如此咄咄逼人的方式改变它——将彻底压垮你，”澳大利亚活动家诺埃尔·马丁(Noelle Martin)说，他是一场深度假色情活动的目标，这种影响可能会伴随受害者一生。图片和视频很难从网上删除，新的素材随时可以创造出来。“会影响你的人际关系；会影响你找工作。你参加的每一次求职面试都可能被提及，”马丁说。“直到今天，我还没有完全成功地删除任何图像。，它会一直在那里。不管我做什么。”

深度攻击

有时候甚至比复仇色情片还要复杂。道奇表示，由于内容不真实，女性可能会怀疑自己是否受到了精神创伤，应该举报。“如果有人想知道他们是否真的是受害者，这将削弱他们的康复能力，”他说。

未经授权的deepfake色情作品也可能对经济和事业产生影响。印度记者Rana Ayyub成为Deepfake色情网站的受害者，受到如此激烈的网络骚扰，她不得不尽可能降低自己的网络形象，从而降低工作所需的公众形象。英国诗人兼广播员海伦·莫特之前在《麻省理工科学评论》上分享了她的故事。她说，在发现自己的照片被人从私人社交媒体账户上窃取以制作假裸体后，她感到有压力这样做。

负责这项服务的政府官员索菲·莫蒂默(Sophie Mortimer)表示，由英国政府资助的复仇色情热线最近收到了一名教师的案例，这名教师在社交媒体上传播了她的深度伪造色情图片后失去了工作，并引起了学校的注意。道奇说:“情况越来越糟，而不是越来越好，越来越多的女性以这种方式成为目标。”

同性恋的致命打击

外国专家Ajder表示，虽然Y制作深度伪造的同性恋色情片的选择有限，但对同性恋为犯罪的国家的男性构成了额外的威胁。全世界71个司法管辖区都是如此，其中11个司法管辖区判处死刑。

色情应用的结束日期

Ajder在过去几年中发现了许多Deepfake色情应用程序。他说，他曾试图联系Y提供托管服务，并迫使其下线，但他对阻止类似工具的创建持悲观态度。另一个网站似乎也在尝试做同样的事情。他认为，禁止在社交媒体平台上发布此类内容，甚至将其创作或消费视为非法，将被证明是一个更可持续的解决方案。“这意味着这些网站的处理方式与暗网材料相同，”他说。“就算是开到地下，至少一般人是看不到的。”

AI色情应用必须终结，科技违法者将受到严惩。-“重建未来”