一项新的研究框架正在测试人工智能能否承担银行业最繁琐的工作之一：从成千上万条欺诈警报中筛选出真正重要的信息。研究员阿萨夫·沙布泰（Asaf Shabtai）推出了一套据称是首个专门用于实现信用卡欺诈调查自动化的系统，该系统利用大型语言模型来处理目前耗费分析师大量时间和精力的步骤。
要点总结
- 欺诈调查助手 (FIA)被描述为第一个使用多模态大型语言模型来自动执行信用卡欺诈调查关键步骤的框架。
- 欺诈分析师面临着研究人员所说的“警报疲劳”，这是由于交易监控系统产生的警报数量庞大造成的。
- FIA 结合了 LLM 的推理、代码执行和视觉能力，在短时间内收集一致的证据。
- 在 Sparkov 和 CCTD 数据集上进行的测试表明，在对临界病例进行1500 次额外调查后，F1 分数提高了 8% 。
信用卡欺诈检测与调查面临的挑战
欺诈检测系统仍然至关重要，但它们始终难以跟上欺诈手段快速演变的步伐。检测算法能够识别的欺诈手段与实际漏网之鱼之间的差距，正是现代银行业中调查（即人工和分析性的后续工作）仍然如此重要的原因。
不断演变的欺诈技术超越了检测系统的发展速度
信用卡欺诈防范在现代社会中扮演着至关重要的角色，原因显而易见：金融机构和客户都依赖于能够在实际损失发生之前标记可疑活动的系统。然而，FIA 背后的研究指出，该系统存在一个持续的薄弱环节。检测系统虽然必不可少，但往往难以跟上犯罪分子不断演变的欺诈手段，这些手段能够绕过自动化过滤器。
由于警报数量过多，欺诈分析师出现警报疲劳
这种检测漏洞会给实际执行工作的人员带来后续问题。研究表明，信用卡交易监控系统会产生海量警报，令欺诈分析师疲于应对。每条警报都需要仔细处理、专业知识和详尽的记录，这种工作量直接导致了研究中所称的“警报疲劳”。当分析师如此疲于奔命时，一些模糊不清的案例就可能得不到应有的审查，而这恰恰是自动化系统试图弥补的缺口。
欺诈调查的作用和重要性
调查并非只是检测失败后的备用方案，而是确保检测模型始终保持敏锐的关键过程。研究表明，欺诈调查是一种至关重要的补充机制，能够随着时间的推移不断提升检测模型的性能，发现新的欺诈趋势，为利益相关者提供案例洞察，并维护客户的信任。换句话说，每个调查案例都会反馈到系统中，使未来的检测更加智能。这种反馈循环正是大型语言模型欺诈调查工具（例如 FIA）的价值所在：它们能够加速以往完全依赖人工的流程，从而创造更多价值。
介绍欺诈调查助手（FIA）框架
FIA旨在自动化目前耗费分析师最多时间的欺诈调查环节，同时又不降低利益相关者和合规团队所期望的解释严谨性。研究表明，它是首个将多模态逻辑逻辑模型直接应用于此任务的框架。
多模态大型语言模型可自动执行调查步骤
该框架采用多模态大型语言模型，自动执行信用卡欺诈调查的关键步骤并生成解释性报告。FIA 并非简单地将交易标记为可疑，而是旨在分析决策背后的逻辑，并生成可供人工审核人员实际使用的文档。这标志着欺诈评分方式从黑箱式转向更接近审计追踪的模式，意义重大。
关键能力：推理、代码执行和愿景，以实现一致的证据收集
FIA 的独特之处在于它巧妙地融合了三种不同的语言模型 (LLM) 功能。该系统利用大型语言模型的推理、代码执行和视觉识别能力，收集相关且逻辑一致的证据，同时保持调查路径相对较短。这种组合至关重要，因为欺诈案件很少仅依赖单一数据点；它们通常需要交叉比对交易模式、进行快速计算以及解读视觉或文档证据，而这些任务传统上需要人工分析师同时操作多种工具才能完成。
FIA的实验验证及优势
该框架的有效性已通过两个成熟的欺诈数据集进行了测试，结果表明，尤其是在最难识别的案例中，其性能得到了显著提升。在 Sparkov 和 CCTD 数据集上的测试表明，FIA 在处理不确定案例的过程中逐步提高了 F1 分数，仅经过 1500 次额外调查后，F1 分数就提升了8% 。F1 分数是衡量准确率和召回率的标准指标，这意味着随着系统处理更多临界案例，它在识别真实欺诈和避免误报方面都取得了进步。
这条改进曲线本身就意义重大，但其更广泛的意义或许更为重要：研究结果表明，基于 LLM 的代理有潜力简化欺诈调查工作流程的主要组成部分，而且它们似乎对解决模糊警报特别有用，而这正是那些往往会堆积起来并导致分析师精疲力竭的案件类别。
为什么这种方法对行业至关重要
对于银行和发卡机构而言，警报疲劳不仅仅是内部人员配置的难题，更会倍增风险。当人工分析师人手不足时，一些模棱两可的案例可能会被草率处理或延误，这要么会导致欺诈行为蒙混过关，要么会给合法客户带来不必要的麻烦。如果像 FIA 这样的框架能够像早期测试表明的那样扩展应用，就可以将分析师的时间转移到真正复杂的决策上，而让自动化推理来处理那些例行但耗时的证据收集工作。
值得注意的是，这与欺诈调查自动化的整体发展轨迹密切相关。长期以来，检测系统一直依赖于模式匹配和统计模型，但这些方法本质上无法跟上新型欺诈技术的步伐。在检测层之上叠加多模态逻辑层（LLM），尤其是在调查阶段，引入了一种反馈机制，可以帮助机构比仅依靠基于规则的系统更快地适应变化。
常问问题
为什么防范信用卡欺诈如此重要？
信用卡欺诈防范在现代社会中发挥着重要作用，它能够保护客户的信任和财务安全。
当前欺诈检测系统面临哪些挑战？
欺诈检测系统往往难以跟上不断变化的欺诈手段，导致漏报或警报不明确。
欺诈调查助手（FIA）框架如何帮助欺诈分析师？
FIA 使用大型语言模型自动执行关键调查步骤，减少警报疲劳并生成解释性报告以帮助分析人员。
有哪些证据支持国际汽联的有效性？
在 Sparkov 和 CCTD 数据集上的实验表明，FIA 在调查了 1,500 个临界案例后，将 F1 分数提高了8% 。
本文由人工智能辅助生成，并经编辑团队审核。