“你下载国家反欺诈中心你拿到应用了吗？在8月份的应用下载排名中，“国家反欺诈中心”以704.25万次下载量位居榜首，这反映了国家反欺诈的热情和反欺诈意识的提高。
如今，除了常见的诈骗套路，犯罪分子的伎俩也随着科技的发展而“升级”。AI的技术在引领产业智能化、提高生活质量的同时，也可能被犯罪分子恶意利用，产生难以防范的新型高科技欺诈手段。
九月至2021年10月，全国反欺诈中心举办了一系列“国家反欺诈”直播活动。百度安全专家应邀参观直播室，向广大网民普及网络欺诈，分析新的欺诈技术，提高公民的反欺诈意识。
百度该公司已经宣布，其AI技术可以处理70多种电信网络欺诈程序，包括更常见的：在线刷单、诱导投资和财务管理、股票推荐常规贷款、虚拟货币、AI变脸、伪造公众人物言论等，不仅从源头上截获有害信息，在网络有害信息搜索截获、应用安装截获、内容生态治理等方面达到用户；另一方面，AI的技术也在有效应对AI的虐待行为，如AI的变脸，利用AI的模型安全和深度学习等技术，搭建检测平台，协助相关部门保护公民财产和信息安全。
AI的技术阻止了AI的虐待，让“AI变脸”和“AI变声”无处藏身
AI利用技术进行欺诈，手段巧妙，迷惑性更强。利用AI的技术对抗AI的技术滥用是非常必要的。
近年来，“AI变脸”引起了社会的广泛关注。它使观看变得不可能是真实的，这使得以前高保真的视频和直播不再可靠，并且存在潜在的安全风险、法律问题和道德陷阱。
近年来，百度安全在几次国家安全会议上展示了AI变脸的制作过程。通过几个简单的步骤，视频中的角色可以很容易地被另一个人取代，眨眼的表情和姿势几乎可以完全同步。这种基于AI（AndyLau）的人体图像合成技术统称为deepfake，即“深度伪造”。
技术滥用带来了一系列“AI的黑白制作”问题。通过“变脸”技术产生的色情图片、视频生成和虚拟政治人物的演讲威胁到了人脸识别技术的信息安全，给社会秩序和舆论环境带来了巨大风险。
百度一直非常重视AI的安全。早在2019年，作为百度多年来掌握AI技术的大师，百度大脑就发布并升级到5.0，在“中国”领域处于领先地位AI“安全”包括贯穿基础层、感知层、认知层、平台层等层的安全保证。
百度AI也长期致力于反黑灰生产尖端技术的研究。在AI模型安全和深度学习卷积神经网络（CNN）技术领域长期探索和研究的基础上，2019年，百度安全推出了中国首个基于人脸搜索、人脸属性提取、语音识别和OCR识别的深度伪造检测平台。采用多种算法和专利保护技术，识别主流“深度伪造”数据，准确率超过99%，及时协助监管部门发现相关风险和问题。
目前，百度深度防伪平台已为业界开源，并致力于推动各部门联合开发和测评，从源头上遏制滥用AI实施电信网络欺诈的蔓延。
除了“AI变脸”之外，“AI变声”在技术层面也是可能的。例如，犯罪团伙通过非法手段获取个人语音信息，然后将固有脚本与被害人目标亲属的原始语音相结合，利用“深度伪造”生成个性化语音片段，利用“智能客服”突破被害人的心理防线，从而达到诈骗钱财等违法目的，从而提醒公众提高防范意识。
充分发挥知识地图和大数据技术能力，阻断黑灰生产从源头到达用户
数据显示，网络诈骗在各类电信网络诈骗案件中所占比例逐年上升。作为承载各种欺诈和非法交易、转移到更多恶意网站的重要平台，欺诈性恶意网站已经成为实施网络犯罪的黑灰色产品的上游。
整顿欺诈链上游是百度AI长期监控、拦截和共同治理黑白产品的目标，努力从源头上防范欺诈。
百度AI依托威胁情报大数据知识地图和百度大脑核心技术之一，构建了基于搜索生态和内容平台的全网安全态势感知系统，对网络欺诈上游进行管理和清理。
一方面，通过百度安全态势感知系统，可以对整个网络文本、图片、视频、代码等进行智能建模和分析×24小时实时监控，对欺诈等恶意网站采取风险标识、拦截提示、搜索屏蔽等拦截措施，非法和风险，以及第三方浏览器、第三方应用程序、社交平台和短信网站的有害信息。目前，该系统通过事前监控-事中拦截-事后追踪的保障机制，从源头上阻止网络黑灰产品到达用户手中。
另一方面，对电信网络诈骗的源头——公民个人信息的泄露进行了集中处理，截获和屏蔽了相关可疑网站，清理了与内容平台相关的非法信息，对相关行为人进行处罚，永久禁止其账号，从多方面保护公民个人信息的安全。
此外，还有“百度网站安全中心-网站检测平台”，供市民实时查看可疑网站，轻松识别欺诈行为；百度安全已启动安装和拦截百度手机欺诈应用程序，在搜索生态中拦截和管理可疑欺诈应用程序，为用户安全访问提供保障。
2019年以来，网络安全形势相对严峻，攻防对抗不断升级。据统计，过去两年，百度安全每年截获各类恶意信息416.1亿次，截获欺诈相关网站和应用2700万用户，每天保护公民个人信息不被恶意泄露22万次，清理“两卡”非法交易493万余次。
此外，多年来，百度积极配合公安机关为打击刑事案件提供技术支持——提供黑白产品线索，恢复黑白产品肖像，深入参与调查，帮助营造清洁良好的网络生态，有效保障亿万网民的搜索体验和公民个人信息安全。近年来，我们与公安机关合作破获了数千起网络犯罪案件，涉案金额达数亿元。反黑手党开放平台向公安机关输出包括欺诈信息在内的各类“风险网站和应用”100多万条威胁情报，辅助监管部门实现快速研究判断、重点攻关，科学预警，及时阻断各类新型网络犯罪。
网络安全的生态治理是一场持久战。未来，百度AI将继续通过技术研发、开源技术、信息共享、黑产品共同治理、与政府合作、，行业和机构为公民财产和信息安全筑起防线，不断用领先的AI技术手段攻克黑白产品的“武库”，用AI打败AI，保护每一位公民的安全生活。
本文来自蓝鲸金融
最新评论