新技术竟然会通过“绑架”手机摄像头，绕开平台算法监测，让“AI画皮”现象频出。各大社交和直播平台作为用户守护者，提升防御能力迫在眉睫。
AI换脸风险突显
AI换脸带来的风险不断浮现。像美国明星泰勒·斯威夫特的性暗示深度伪造视频在网上广泛传播，这一事件反映出AI在隐私、安全方面的巨大风险。世界经济论坛官网今年1月报道指出，生成式人工智能的兴起使欺诈行为增速前所未见，这让人们对AI换脸技术的安全性深感担忧。
今年以来，各类AI换脸引发的乱象层出不穷。一些不法分子利用这项技术进行诈骗，给受害者带来了巨大的经济损失。由于技术的发展，普通人也具备了使用AI换脸进行深度伪造的能力，这让AI换脸的滥用问题愈发严峻。
平台态度坚定
抖音方面对“AI换脸”持明确反对态度。其相关负责人表示，平台不鼓励对“AI换脸”等涉及侵犯他人权益的内容宣传推广，直播场景下全面禁止不当使用该技术，因为这会造成用户的混淆认知。抖音电商也将利用AI换脸、换声干扰误导用户的商品和信息列入违禁范畴。
微信也有严格规定。微信视频创作安全中心相关负责人称，涉及真人出镜的内容，无论是否用AI技术，若冒充他人或用于商业用途，需提供证明材料确保身份授权。“抖快小”等平台均表示，用户发现“AI换脸”违规内容可通过站内官方渠道举报。
拦截难度极高
在众多平台和技术专家看来，对视频通话和直播中的“画皮人”实施拦截困难重重。加密平台无法直接分析内容，在数百万个同时发生的视频通话或直播中运行深度学习模型挑战性大、成本高。这使得平台在面对AI换脸技术带来的风险时，很难及时有效地进行处理。
技术不断进步，攻击者也在持续改进AI生成的画面、声音以逃避检测。平台处在“隐私悖论”和与攻击者的“猫鼠游戏”中，无法在不违反隐私法律的情况下扫描加密通话，这进一步加大了拦截的难度。
真人验证担忧
“AI画皮人”是否能绕过系统的“真人验证”引发了行业人士的担忧。随着模型不断缩小规模，实时、超逼真的深度伪造通话普通人用智能手机就能实现。这意味着诈骗分子可能利用AI换脸绕过真人验证，实施更隐蔽的诈骗，让真人验证机制面临前所未有的挑战。
当下很多诈骗活动就借助AI换脸绕过认证程序。一些人利用高度逼真的AI换脸假冒他人身份进行贷款申请、账号登录等操作，如果不能解决真人验证问题，将会对个人财产安全和信息安全造成严重威胁。
道魔斗法困境
诈骗者与社会就像在进行一场道魔斗法。网络诈骗使得技术追踪难度大增，诈骗者利用不同法域进行诈骗造成管辖困难。这让打击AI换脸诈骗的工作变得复杂，执法部门需要在不同的法律框架和地域范围之间协调合作。
不同国家和地区对AI换脸技术的法律规定不同，这给跨国、跨地区的诈骗打击带来很大障碍。诈骗者可能会利用这些差异逃避法律制裁，继续实施诈骗行为，这极大地考验着整个社会的应对能力。
防御之路漫漫
虽然各大平台已经采取了一定措施，但未来在防御“AI画皮”方面还有很长的路要走。平台需要不断投入资源，研发更先进的技术，以应对不断升级的AI换脸技术。同时，也需要加强与监管部门、行业组织的合作，共同维护网络安全。
整个社会也应提高对AI换脸风险的认识，加强相关法律和监管制度的完善。只有多方共同努力，才能有效遏制AI换脸带来的乱象，保障用户的合法权益和网络环境的安全。
大家认为平台还可以通过哪些有效方式提升对AI换脸的防御能力？
