AI骗案势暴增 预防中伏靠AI
人工智能（AI）正迅速成为优化效率与推动创新的核心技术，广泛应用于医疗、企业营运与公共安全等领域，但正如一枚钱币的另一面，犯罪分子却有机可乘。随着 AI 技术日益成熟，犯罪组织更透过骇客攻击、诈骗、伪造影片勒索，以及散播错误资讯，令人防不胜防。
AI 在金融方面的滥用尤为显著。到 2027 年，预期生成式 AI 将使全球诈骗损失增加四倍。近10年来，金融与银行业的数字化转型加速，冠状病毒病疫情更巩固了数字银行的主导地位。此一转变无疑提升了服务效率与交易量，却也被金融犯罪分子找到下手机会。2023 年，全球约有 3.1 兆美元的不法资金流经金融系统，其中包括人口贩运、毒品交易和恐怖主义融资等活动。同年，银行诈骗造成的损失估计共达 4856 亿美元。
道高一尺 魔高一丈
美国财政部在 2024 年指出，现有金融风险管理架构可能无法涵盖新兴 AI 技术，显示唯有以 AI 对抗 AI，才能建立有效的防御机制。
今时今日，诈骗集团已舍人力操作而取生成式 AI 工具，钓鱼邮件和深度伪造骗案的内容几可乱真。去年多宗案件牵涉模仿公司高层，令员工将大额资金汇入假帐户；可见生成式 AI 已成为诈骗者绕过传统安全防线、操控信任的关键工具。从环联（TransUnion ）的信贷报告可见，数字诈骗案件较疫情前暴增 80%，其中信用卡骗案上升 76%，而帐户盗用（account takeover）的增幅更高达 81% 至 131%。
美国联邦贸易委员会指出，2023 年诈骗损失突破 100 亿美元，较2022年增加 10 亿。根据纳斯达克全球金融犯罪报告【注】，2023 年全球欺诈骗局和银行骗案预计总损失超过 4850 亿美元；20 至 29 岁年轻人的受骗率高于 70 岁以上长者，反映诈骗目标已不再限于高龄组别。
虚拟货币投资亦不乏“拉地毯”（rug pull）骗局，货币开发者关闭项目后即卷款潜逃，导致投资者血本无归。有组织犯罪更朝全球化与专业化发展，催生出新兴的犯罪商业模式，如“服务式犯罪”（crime as a service）。此外，国际刑警组织指出，部分受害者遭假工作广告诱骗，更被贩运至东南亚与南美等地的诈骗中心，结合科技与人身剥削，形成规模化、工业化的诈骗产业链。
生成智能 便于造假
随着合成身份生成器与自动化加密货币帐户开设工具等 AI 技术的出现，不仅大幅加快洗钱流程，甚至可能动摇整体金融体系，并助长跨国犯罪网络扩张。洗钱如今已演变为一种商业化服务，按客户付费等级来提供不同层次的操作方案。在分层洗钱阶段，高端客户可动用不常使用的帐户，并透过分散的傀儡户口（money mule）网络进行小额、多宗交易，以规避监管。
金融机构面对庞大的资料量和多样化的数据，往往难以即时辨识异常行为。相反，犯罪分子则藉这些资料设计出难以察觉的诈骗手法。由前期侦察、分析防御系统弱点，以至优化诈骗模式，通过大型语言模型、影片生成工具，以至生物辨识技术，AI都广被应用。这些合成内容可应用于洗钱、地契诈骗等犯罪场景。
显而易见，透过模拟理财顾问的线上会议进行诈骗，将对金融服务构成重大冲击。传统防线如生物识别与第三方资料验证，正面临 AI 技术快速演进的严峻挑战。
科技犯罪 无孔不入
无可讳言，生成式 AI 被滥用的情况日益严重，特别是在诈骗与网络犯罪领域。2023 年 6 月，名为 WormGPT 的黑暗版 ChatGPT首次出现在暗网，具备执行多种非法任务的能力。FraudGPT则被揭露为一款专门用于搜寻系统漏洞、撰写恶意程式码和自动生成钓鱼邮件的大型语言模型。自 ChatGPT-4 问世以来，BlackHatGPT等“越狱版”模型，以及所谓“服务式越狱”（jailbreaking as a service）平台相继出现，进一步推动 AI 的恶意应用。
当前金融机构高度依赖行动装置和流动银行应用程式，以进行数字业务，效率与便利性得以跃升，然而资讯安全风险亦相应增高。从用户身份验证到一次性密码，流程主要集中于单一装置，一旦智能卡遭受病毒或恶意程式攻击，或会瘫痪整体系统。不少研究已经指出，AI 作奸犯科的潜力近乎无限，从操控式攻击、基础设施破坏，到 AI 系统全面武器化，皆具高度风险。
随着系统日益复杂，AI 在特定诱因和机器学习驱动下，甚至可能自主研发新型犯罪手法。乍听有如科幻情节，实际上金融业界已出现 AI 系统因诱因设计不当，而采取不道德行为的案例，惟现行防御架构尚未为此类风险作好准备。
周全应对 面面俱到
面对层出不穷的 AI犯罪手法，当局应从技术、政策、国际协作、教育四管齐下。
技术方面，AI 驱动的侦测系统是第一道防线。用于辨识深度伪造内容和金融异常交易的工具，已证实具实用性，应进一步整合至资讯安全架构中，以降低大规模攻击风险。香港大学和香港警务处合作研发的虚拟资产追踪系统CryptoTrace，利用创新科技，有效追踪涉及案件的虚拟货币交易。2025年4月，此项目在日内瓦国际发明展荣获评审团嘉许金奖。
政策方面，决策者应建立既能促进创新，又能防止滥用的监管环境。美国商品期货交易委员会于 2024 年 5 月发布的《金融市场负责任人工智能》报告中强调，AI 虽广泛应用于风险管理与预测分析，但也带来深度伪造、网络钓鱼与演算法操控等风险，呼吁建立相应的 AI 风险管理框架。
国际合作方面：AI 犯罪具跨国特性，必须全球携手应付。国际刑警组织与联合国皆倡议统一 AI 使用规范，订立伦理准则、惩罚机制，并强化各国执法力度。
教育方面：深化大众对 AI 诈骗与误导性资讯的辨识能力至关重要。香港警务处推出名为“防骗视伏器系列”的手机应用程式，有助市民实时侦测诈骗行为；本年4月更在日内瓦国际发明展赢得国际传媒大奖及金奖。
攻也AI 守也AI
既然骗徒有AI之矛可用，各界亦不妨以AI之盾加以防御。一方面，犯罪分子运用生成式模型制造仿真度高的假发票和合成帐户，加速洗钱与诈骗流程。另一方面，AI 演算法能自动侦测伪造文件、比对异常交易模式，显著提升风险识别与防范之效。如能善加利用，危中依然有机。
纵使目前尚未出现完全由 AI 主导的犯罪模式，但技术发展的趋势已清楚显示，务须马上部署预防措施，以便防患未然。为此，公私营协作无疑是重中之重。执法机关、政府与企业应紧密合作，建立以 AI 为核心的安全防护体系。金融机构与企业可将风险管理结合资讯安全防护，内置于 AI 系统之中；政府则应透过政策引导与拨款支持，促进研发创新，并全力推动跨界别，以至跨国界的协同对策。
注：https://www.nasdaq.com/global-financial-crime-report
谢国生博士
港大经管学院金融学首席讲师、新界乡议局当然执行委员
何敏淙
香港大学附属学院讲师
（本文同时于二零二五年六月二十五日载于《信报》“龙虎山下”专栏）
