6月9日至10日,在上证指数一度站上3400点之际,多位财经博主的自媒体账号遭遇了“狸猫换太子”的情况。一些账号被盗后发布疑似为股市“杀猪盘”引流的广告,还有一些账号被盗后冒充号主本人和粉丝“一对一”私聊,将粉丝引向诈骗陷阱。
据被盗号者自述,其账号所属的企业被伪造的“人脸识别”授权更换了法人,之后通过法人权限取得了账号控制权,才有了后续的一系列疑似诈骗行为。调查发现,“代过人脸识别”已经成为一条隐秘的黑灰产产业链。多名黑灰产从业者表示可以代过人脸验证,价格在560元到1400元不等。
蚂蚁集团AI核身安全高级专家崔征两表示,目前人脸识别被攻破一般有两种情况:一种是通过假脸(如3D头模、面具、高清屏等)恶意攻击刷脸并成功完成人脸验证;另一种是通过技术注入手法攻击刷脸并成功完成人脸验证。AIGC发展迅猛,AI换脸改变了攻击内容的生成方式,被黑灰产利用,为各行业带来了非常大的挑战。
浙江垦丁律师事务所主任律师张延来表示,盗号并群发诈骗信息涉及非法侵入计算机信息系统罪、诈骗罪、侵犯公民个人信息罪。要堵住这一诈骗漏洞,建议引入多重认证机制,以及为企业关键信息变更设置“高风险提醒”机制。
6月10日晚间,多位自媒体发文揭露其名下账号突然遭遇盗号。其中“远方青木”详细描述了其名下小号(粉丝约60万)被盗始末,表示盗号者通过人脸识别的方式在6月3日让账号所在企业的原法人“授权”更换了新法人,最终在6月10日凌晨重置了账号密码,并在早上8点左右群发了诈骗信息。
记者调查发现,一些黑灰产从业者甚至在宣传中明确指出了具体的地方政务系统,包括浙里办、豫事办、海易办等,并表示“基本(攻破)政务都没问题”。展示的一个通过人脸验证的演示视频中,生成出的人脸在极短时间内可以做出诸如“摇头”“张嘴”“眨眼”等动作,成功通过人脸测试。
网络安全研究专家彭根表示,这类事件的发生主要是由于AI技术使得虚拟“人脸”越来越真实。识别真伪越来越难,堵住这样的漏洞只能依靠技术升级。国家网信办此前发布的《人脸识别技术应用安全管理规定(试行)(征求意见稿)》明确,人脸识别技术使用者应当每年对图像采集设备、个人身份识别设备的安全性和可能存在的风险进行检测评估,并根据检测评估情况改进安全策略,调整置信度阈值,采取有效措施保护设备免受攻击、侵入、干扰和破坏。
蚂蚁数科安全总监王磊表示,黑产团伙往往通过非法渠道购买公民隐私信息,用AI生成虚假人脸活体视频、劫持摄像头篡改采集内容,达到欺骗平台的目的。深度伪造算法与安全防御算法是一个相互博弈的过程,建议网络平台建立具备实时安全对抗能力的人脸识别系统,及时采集新型攻击手段,人脸识别的模型需要高效更新反制手段。此外,网络平台需要有完善的业务风控策略,从注册、登录、业务开通或支付等环节多层次监控,警惕异地登录、设备更换等异常行为。
除了技术升级外,增加除人脸识别外的多重防控系统以及在政务平台设置“高风险提醒机制”也是可供选择的解决手段。崔征两表示,应对人脸识别风险,一般的防护措施是建立多重防控体系,包括手机和链路的加固与防控、研发应对deepfake的能力、进行多因子校验等。裴智勇建议,使用人脸识别技术应加入其他验证手段进行辅助,如常见的短信验证、电话验证或大数据验证,这样相对更安全。张延来也建议引入多重认证机制,如结合动态短信验证码+人脸识别+历史设备登录行为等。