浦汇FxPro：AI对决AI！金融科技打响AI欺诈攻防战

经济观察报 记者 老盈盈

在AI（人工智能）技术快速发展的背景下，各式各样的“深度伪造”（Deepfake）随时可能在日常生活中出现，让人防不胜防。

近期，蚂蚁数字科技（下称“蚂蚁数科”）的产品技术人士在对算法进行优化时发现了一些不法分子新的欺诈手段。不法分子首先布下“钓鱼”陷阱，以银行的身份向被攻击对象发送短信或邮件链接，引导他们到其网站进行交易。等被攻击对象不慎点击进入钓鱼网站，提交了自己的姓名、身份证号、电话号码、短信验证码和支付密码后，这些不法分子就像拿到了“万能钥匙”，立刻用这些信息登录被攻击对象的手机银行，同时利用被攻击对象的照片生成高度逼真的AI深度伪造图像或视频，再通过注入式攻击（通过注入恶意代码）来劫持被攻击对象的手机摄像头，随后用预录的图像或视频，篡改或替代物理摄像头的自拍，绕过活体检测这道防线进行验证，以此实施欺诈等非法活动。如此一来，在身份验证通过后，不法分子就可以转移被攻击对象的资金，甚至还会用被攻击对象的信息申请贷款，而被攻击对象却可能浑然不知。

但“魔高一尺，道高一丈”，在11月3日至4日的香港金融科技周上，“AI对抗AI”的展位里藏着一场看不见硝烟的攻防战。在蚂蚁数科展出的宣传片中，多组机械臂在实验室中24小时连轴转、模拟身份欺诈攻击，识别图像真伪。一组配备手机摄像头的机械臂不停伸缩、对焦，反复识别着眼前的图片；另一组机械臂则精准地举起图片，稳稳递到摄像头前。计算机实时记下每一次识别的结果，再把这些数据喂给人工智能算法，让它在一次次实战中快速成长，以更好地识别出不同AI欺诈的破绽。

这不是科幻电影里的机器人觉醒，而是一场与非法人工智能的长期攻防拉锯战。当不法分子的攻击升级至新的层级，金融机构的反击必须同步攀升至更高维度，二者在攻防博弈中形成持续循环。