中新网北京3月2日电(林毅)利用深度学习、虚拟现实等技术生成合成算法，产生图像、音频、视频、虚拟场景等信息...作为深度合成技术在人工智能领域的新实践，得到了广泛应用，但也被不法分子恶意利用，造成损失和威胁。

由专家学者联合撰写的《深度合成十大趋势报告(2022)》(以下简称《报告》)近日发布。其中，对深度合成技术及其应用带来的机遇和挑战进行了研究，并对其发展和治理提出了一些建议。

深度复合视频数量激增

这份报告由清华大学人工智能研究院、北京睿来智能科技有限公司、清华大学智慧媒体研究中心、国家工业信息安全发展研究中心、北京大数据中心联合发布。

报告显示，在国内外主流音视频网站和社交媒体平台上，2021年新发布的深度复合视频数量比2017年增长了10倍以上。深度合成内容的关注度也呈指数级增长。

来智慧CEO解释说，技术的不断成熟是深度合成内容爆发式增长的重要原因。随着研究论文的不断增加，开源技术工具和大量代表性方法的出现，深度合成内容的效果更加真实，制作更加高效。

清华大学新闻与传播学院常务副院长陈昌奉认为，深度合成将重新定义虚拟数字空空间。从传播社会学的角度来看，基于深度合成技术将开发出一种新的人类生存场景。

如何有效鉴别深度合成内容

近期，一些不法分子利用深度合成技术伪造音视频，实施诬陷、诽谤、诈骗、敲诈勒索等违法行为。外界担心深度合成内容模糊了真假界限，尤其是随着合成质量的不断提高，传统的基于生物特征的身份识别方法越来越难以发挥作用。

浙大网空安全学院院长任奎提醒，目前深度合成的检测主要依靠人工智能模型和训练数据的完备性。“检测器的低普适性、开放数据集的适用性、数据的敏感性都会带来很多挑战”。

中国工程院院士吴认为，治理主要有两点:一是要不断发展技术，不能一刀切地禁止，以免阻碍积极的应用和创新；二是要从源头上解决衍生的安全问题，以技术创新和技术对抗的方式不断提升和迭代检测技术的能力。

田也有同样的看法。他表示，反深度误检技术面临“强对抗性”，需要不断更新迭代。

专家呼吁建立多维治理机制

报告显示，无论是学术界还是产业界，都在反深度误检方面投入了大量的研究。在国内，清华大学、中国科学技术大学等高校在深度伪造内容的检测方面成绩斐然。比如清华大学孵化团队睿来智慧推出的深度伪造内容检测平台DeepReal，具有工业级的检测性能和应对真实网络环境变化的检测能力。

清华大学人工智能研究院基础理论研究中心主任朱军表示，深度合成检测面临持续的攻防和博弈。未来需要整合多模态内容取证分析、基于数字水印的溯源技术等能力，实现精准识别。

同时，专家着力构建多维度的治理机制。陈昌奉表示，深度合成内容的治理路径可以从技术、伦理、法制等方面进行探索。一些学者主张在生产和研究中发展自律和自治。

报告还称，各方应与时俱进，落实新规范要求，在此前提下，不断追求技术突破，不断探索深度合成技术的应用场景，打造示范标杆，对人工智能产业整体形成带动效应，推动新技术持续健康发展。(完)

来源:中国新闻网