智通财经APP获悉,随着人工智能和大模型技术的迅猛发展,它们为人们的生活带来了前所未有的便利与变革。从DeepSeek等应用的爆火,到AI PC等端侧AI设备的加速普及,AI 的身影无处不在。然而,AI 技术的滥用也带来了新的安全威胁。其中,AI 换脸诈骗作为一种新兴的、极具隐蔽性和危害性的手段,正逐渐成为网络安全领域的一大挑战。
两会期间,全国人大代表、全国政协委员等呼吁立法整治AI“换脸拟声” 的话题也引发广泛关注。AI 换脸,本质上是生成式 AI 的一种创新应用,它借助深度学习技术,能够生成高度逼真的虚假视频或图像。随着该技术的不断成熟,伪造的视频和图像足以以假乱真,这也为不法分子提供了可乘之机。他们利用 AI 换脸技术,肆意开展各种欺诈活动,如诈骗、身份盗窃、发布虚假信息等,给个人、企业乃至整个社会都带来了严重的损失和危害。
为了应对日益严峻的 AI 换脸等恶意应用的威胁,联想集团(00992)凭借其在AI领域的深厚积累和敏锐洞察力,即将推出一项具有重大意义的 AI 防诈技术 ——“Deepfake 深度伪造技术检测器”。在今日联想集团的一则宣传片《用AI守护AI》中,展示了该技术的更多细节,其能够精准识别各种 Deepfake 换脸伪造,有效遏制 AI 欺诈行为的蔓延,据了解,该检测器的准确率高达 96%。
在众多 AI 换脸技术中,Deepfake 无疑是发展最为成熟的代表项目之一。Deepfake,由 “deep learning”(深度学习)和 “fake”(伪造)组合而成,精准地概括了这项技术的本质特征。它作为人工智能深度学习领域的一个重要分支,自诞生以来便备受关注。然而,Deepfake 技术迅速从实验室走向大众视野,在各类应用场景中频繁出现,也引发了广泛的社会关注和担忧。
联想 “Deepfake 深度伪造技术检测器” 基于 DeepSeek 开源大模型构建,体现了其对前沿技术的精准把握和有效利用,并可部署在AI PC本地运行,也进一步强化了联想AI PC个人数据和隐私安全保护的特性。DeepSeek 大模型以其卓越的性能和广泛的适用性,为检测器提供了坚实的技术支撑。在此基础上,联想的研发团队持续深入探索 AI 生成内容的识别与防范技术,不断优化算法和模型,致力于打造出一款高效、可靠的 AI 反诈工具。同时,四川省反诈中心、腾讯云、奇安信等政府机构、云计算服务及网络安全厂商已经加入联想的AI反诈倡议。
联想提出的 Deepfake 深度伪造技术检测方法具有诸多先进性。从技术原理上看,它运用了先进的深度学习算法,对图像和视频中的细微特征进行深入分析。通过构建复杂的神经网络模型,该检测器能够学习到真实人脸和 Deepfake 伪造人脸之间的微妙差异,从而准确判断出视频或图像是否经过 AI 换脸处理。这种基于数据驱动的检测方式,相较于传统的基于规则的检测方法,具有更高的准确性和适应性,能够更好地应对不断变化的 AI 换脸技术。
在功能实现方面,联想的这项技术已经取得了显著成果。例如,在在线视频会议场景中,当用户接入会议时,系统能够实时对参会人员的视频进行检测。一旦发现对方视频可能是 AI 伪造,会立即向用户发出提示,有效增强了会议的安全性。这一功能对于企业而言尤为重要,因为在商务洽谈、机密信息交流等场景下,确保参会人员身份的真实性至关重要。而在社交媒体浏览过程中,该技术可以自动对视频内容进行扫描,标记出疑似 AI 换脸的视频。这不仅帮助普通用户轻松辨识视频的真伪,避免受到虚假信息的误导,同时也有助于维护社交媒体平台的健康生态,减少虚假信息的传播。当用户使用 AI PC时,系统能够实时感知 AI 换脸安全风险,并及时向用户发出预警。无论是在日常办公、娱乐还是其他使用场景下,用户都能得到全方位的安全保护。
该技术目前已实现了广泛的应用适配,可在笔记本电脑、台式机、平板电脑和手机等多种设备中运行。这意味着,无论用户身处何地,使用何种智能设备,都能享受到联想 AI 反诈技术带来的安全保障。这种跨平台的兼容性,充分体现了联想以用户为中心的设计理念,致力于为广大用户提供便捷、高效的安全服务。
除了高准确率和广泛的应用场景外,联想 “Deepfake 深度伪造技术检测器” 中的 Deepfake 检测算法还具有高效性。它能够在短短 5 秒内对图像或视频进行快速检测,实现自动化的分析和实时反馈。在信息爆炸的时代,时间就是金钱,对于可能遭受 AI 欺诈的用户来说,快速的检测结果能够为他们争取宝贵的应对时间,有效避免损失的发生。
同时,该技术还支持迭代升级,具备强大的防御能力。随着 AI 伪造攻击技术的不断发展,如 Faceswap、Face2face、Neuraltextures 等新型技术层出不穷,联想的检测器通过持续收集 AI 换脸样本,对深度学习模型进行持续训练和优化,保持不断的系统升级,以适应新出现的 AI 换脸技术和攻击手段。这种动态的、持续进化的防御机制,确保了检测器始终能够保持在行业领先水平,为用户提供长期有效的安全防护。
联想推出 “Deepfake 深度伪造技术检测器”,不仅仅是一项技术创新,更体现了其作为科技企业的社会责任和担当。联想始终坚守“人本智能”科技发展观,人本智能是指从“以人为本”的视角重新审视人工智能技术及其影响,要求在人工智能技术研发,人工智能产品与服务的设计、应用以及与外界交互中,都必须以满足人类需求和谋求人类福祉为首要目标。AI 技术的发展虽然带来了新的风险,但通过积极的技术创新和应用,同样可以成为防范风险、保障安全的有力武器。
从保护用户权益的角度来看,联想的这项技术为广大用户提供了一道坚实的安全屏障。在日常生活中,用户可能会因为 AI 欺诈而遭受财产损失、个人信息泄露等问题。而 “Deepfake 深度伪造技术检测器” 的出现,让用户能够更加安心地使用各种智能设备和在线服务,不用担心受到 AI 换脸欺诈的侵害。这不仅提升了用户的生活质量,也增强了用户对科技产品的信任度。
对于企业而言,该技术有助于营造一个更加公平、安全的商业环境。在商业活动中,身份验证和信息真实性至关重要。通过准确识别 AI 换脸伪造,企业能够有效防范商业诈骗、保护商业机密,降低运营风险。这对于促进企业的健康发展、维护市场秩序具有重要意义。
从社会层面来看,联想的 AI 反诈技术有助于维护社会的稳定和和谐。AI 欺诈行为的泛滥不仅会给个人和企业带来损失,还可能引发社会信任危机。通过推广和应用先进的 AI 反诈技术,能够有效遏制 AI 欺诈行为的发生,增强社会公众对科技发展的信心,推动社会的可持续发展。
联想集团高级副总裁,智能设备业务集团全球创新中心总经理贾朝晖表示,“在AI换脸诈骗层出不穷的当下,联想集团全球安全实验室的团队正在基于DeepSeek开源大模型,打造"AI照妖镜",专门揪出那些以假乱真的AI生成内容。反诈行动的本质是场攻防拉锯战,伪造技术每天在升级,工程师们也在日夜兼程。想赢,就不能单打独斗。联想集团期待与更多技术合作伙伴一起,给数字世界筑起安全防线。我们坚信, AI不是藏在阴影里的那双眼睛,它应该真正成为照亮生活的光。”
Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.