AI技术的升级，为金融反黑反诈工作带来了诸多新挑战，比如AI系统能够生成更精准的欺诈信息，又比如 “深度伪造”（Deepfake）技术的出现，大幅度提升了金融反黑反诈的难度。有多个方面数据显示，2023年国内黑产欺诈引发的经济损失达1149亿元，金融业务欺诈金额达75亿元，国家监督管理的机构持续预警，金融机构声誉严重受损，金融客户合法权益不时受到侵害。
为了应对这些挑战，金融机构正一直在升级反黑手段，以更高效地打击金融黑产。
多位业内人士告诉《中国经营报》记者，金融机构正从自身以及行业合作等多个角度进行反黑反诈，比如，推出防伪大模型、声纹识别反欺诈方案等。与此同时，金融机构之间、金融与监管之间的沟通与资源共享也成为一大趋势，通过扩大“黑样本”，从数据层面增强整个行业的AI治理能力。
中国（上海）自贸区研究院（浦东改革与发展研究院）金融研究室主任刘斌向记者表示，AI技术的加快速度进行发展确实给金融黑产带来了新的手段。比如，深度伪造技术能让黑产分子制作逼真的假证件、假签名，甚至假视频来进行诈骗；数据污染则可能会引起金融机构的决策系统出现偏差，为黑产活动提供掩护。这些新问题给金融机构的反黑反诈工作带来了几方面的挑战：首先是识别难度增加，传统的反欺诈手段难以识别经过AI处理的伪造信息。其次，金融机构需要更高水平的AI技术来对抗黑产的AI工具。最后，现有的法律和法规可能尚未完全覆盖这些新兴的技术犯罪。
马上消费人工智能研究院院长陆全向记者表示：“AI技术的加快速度进行发展，例如不久前Sora的推出，无疑是技术领域的一次重大突破，但也会降低AI伪造门槛，潜在引发深度伪造等黑色产业链滋生蔓延。聚焦到金融行业，Deepfake主要构成身份欺诈，即通过深度伪造的虚假图像和视频来冒充他人，骗过金融信贷流程中的身份核验系统，进而实施盗刷、恶意注册等。”
信也科技算法科学家吕强也和记者说，根据身份验证提供商Sumsub最新年度报告，2022 年至 2023 年期间，全球多国与深度伪造相关的身份欺诈案件激增，例如菲律宾的诈骗企图数量同比增长4500%。大模型时代，随技术使用门槛的降低和 AI 应用的升级，深度伪造相关的犯罪变得更加频繁。在金融科技领域，慢慢的变多的犯罪分子通过合成语言冒用他人身份牟利，给用户和机构造成巨额损失。
为应对逐渐升级的金融黑产，金融机构也在慢慢地增加反黑手段。记者通过调查了解到，得益于多方面的防伪技术突破，金融行业目前对深度伪造有了很成熟的解决方案。
比如防伪大模型的推出，即利用大模型技术方法，围绕伪造、伪冒检测问题，所构建的复杂模型。有别于传统专家模型，防伪大模型参数量更大、训练数据规模更大。具体而言，陆全和记者说，一方面，源于Chain of thought （思维链技术）。防伪大模型拥有前所未有的编码能力，通过编码进行概念延伸和推理，充分掌握图片细节所蕴含的内在信息。在关于图像输入的因果推理能力的测试中，Gemini Pro和 GPT-4 在未经过防伪专项增强时，能够对伪造人脸指出其毛发、皮肤、背景等诸多细节问题，如“福尔摩斯”一般，这代表大模型对图片理解能力的显著提升。另一方面，Scaling law （规模定律）显现。防伪大模型具有大模型的一般特点，即数据的有效增长能够在一定程度上促进模型能力的同步提升。随着深度伪造数据的积累和录入，防伪大模型的域外能力在明显地增强，这种增强相较于传统专家模型是数以百倍的提升。
马上消费技术专家透露，马上消费已将防伪大模型引入日常风控反欺诈管理流程中，呈现迭代周期短、拦截性能强、可解释性强等特性。从数据分析来看，马上消费防伪大模型的迭代周期从90天缩短至1天，防伪拦截率从90.0%提升到99.9%以上。
吕强也表示，金融科技行业加码深度伪造识别技术是大模型时代的必然的趋势。深度伪造技术如果被滥用在金融犯罪上，将造成极大的风险，因此加强深伪识别技术，与深度伪造应用形成有效对抗，才能为金融用户和机构的资金安全保驾护航。
为此，在识别由AI生成的假“语音”“假脸”“假证件”上不断投入，比如，开发了金融场景下独创的声纹识别反欺诈方案。同时，吕强还和记者说，由于金融业务环节的相似性，国内建立起来的 AI 鉴伪能力也可以迁移到国际业务中。已在海外落地假脸、假证件识别，以及声纹合成算法，并在海外品牌 App内植入 AI 反欺诈功能，利用人脸识别反欺诈、声纹识别等 AI 技术识别非法冒用者、辅助风险团队。特别地，信也科技针对东南亚市场特征开发了反欺诈防御科技，利用在视觉算法和图算法领域的积淀，精准识别和阻断恶意利用生成式 AI 进行（AI 换脸） 的金融欺诈活动，识别准确率高达 98%以上。
采访中，刘斌还指出，要应对金融反黑新挑战，金融机构除了需要强化技术升级，并加速人才教育培训之外，推动合作共享，加强与科技公司、监督管理的机构以及别的金融机构合作，共享欺诈信息和数据，形成联防联控亦十分重要。
记者注意到，在金融业内，跨机构的同业联盟与行业标准也正在形成。对此，陆全向记者表示：“AI治理的方向一定是合作共生的。在我们看来，标准和数据一样，也是从底层对大模型风险治理的一个框架，也就是做一个结构化定义。如果说有更多的金融机构或其他机构，共同在这个标准框架下做事情，大家的合作也会有更好的一个协同和交流。”
在具体的探索上，陆全和记者说，马上消费牵头编制的IEEE国际标准P3826《Standard for Technical Requirements for Large Language Models for Finance》（金融大语言模型技术方面的要求标准）在近期立项。同时，马上消费发起成立了全国首个“打击金融领域黑产联盟”（即AIF），核心成员包括中信银行、中国平安、字节跳动等。马上消费发挥技术能力，通过多方隐私安全计算技术，在数据库内碰撞出黑灰产线索，通过数据层面去增强治理能力。“作为治理方或者说防守方，需要在共生方面有更大的联盟，才能与金融黑产做更好的对抗。”陆全强调。
在行业间分享数据或资源的过程中，如何保障信息安全问题？陆全表示，在这一过程中，会使用到现有的信息安全技术，比如区块链、隐私计算等。相应地，在使用的过程中也是对这些技术的进一步反馈优化。过去，在互联网大数据场景下，这些技术有成本比较高、速度较慢的情况产生，而在金融领域的特定场景中，虽然数据精度较高，但相应不需要非常高的实时计算能力，反而给隐私计算等技术有了更好的发挥空间。
下一步，金融反黑反诈的还有哪些深化方向？刘斌向记者表示，从行业和机构等多方面来看，机构需要持续投入资源进行研发技术，特别是、等前沿技术；行业层面，内部反黑标准的共同定制、推广典型案例，是提高行业防范水平的一大方向。此外，也需要加强对公众的金融知识教育，提高大众对金融欺诈的识别和防范能力，并推动法律和法规的完善，加大对技术犯罪的打击力度，若有跨国金融犯罪的情况，亦需要加强与国际组织的合作。
记者也注意到，国家间怎么样做AI共治也慢慢的变成了业内关注的重要线世界大会”上，清华大学苏世民书院院长、清华大学国际治理研究院院长薛澜就提到，人工智能的治理与发展已走到关键的“十字路口”，尤其是生成式人工智能所带来的挑战是前所未有的。AI发展带来的技术内在问题、基于技术开发带来的风险、技术应用带来的调整，包括数据安全问题、算法歧视、数据误用、滥用等，都使得人工智能监管与治理变得空前复杂，没有一点一个监督管理的机构能够单独管理好AI牵涉的每个方面。为此，薛澜认为，要把发展和安全作为“一体两翼”。国际社会不仅要重视安全问题，更要关注人工智能鸿沟、数智鸿沟等。各国应通过多途径建立国际交流及防控体系；同时，希望联合国等国际组织能起到全面协调的作用。
京ICP备14028625号-2
