人类协议实验揭示了AI如何绕过KYC并利用数字信任

简要概述

Humanity Protocol的受控实验显示，人工智能可以创建令人信服的虚假资料以绕过身份验证，暴露了传统“了解你的客户”(KYC)系统的关键弱点，并凸显了线上AI驱动欺诈的日益增长的风险。

专注于开发互联网信任层的科技创业公司Humanity Protocol最近进行了一项受控社会实验，探索如何利用AI创建高度逼真的虚假资料，绕过主要交友平台的身份验证，并大规模与真实用户互动。

该实验的结果突显了在生成式AI主导的时代，传统“了解你的客户”(KYC)系统的有效性面临的紧迫问题，以及这些漏洞被恶意行为者利用的潜在风险。

这项实验持续了两个月，从2025年10月到12月，涉及Humanity Protocol团队的六名成员。团队使用包括Reve AI、ChatGPT、Nanobanana和Midjourney在内的公开AI工具，生成了四个不同的Tinder虚假资料，配有照片和个人信息。

为了保持虚假资料的真实感，团队采用了TinderGPT，这是一个在GitHub上的开源工具，使这些虚假账户能够在交友应用上同时管理超过100个对话，与真实用户互动。虽然这些账户是在葡萄牙、西班牙、塞尔维亚、印度尼西亚和泰国等多个国家创建的，但所有资料都使用Tinder Gold将位置设定为葡萄牙。在整个实验过程中，AI生成的账户与296名真实Tinder用户互动，并成功说服40人安排线下见面。

实验在葡萄牙里斯本的一家餐厅以伦理方式结束，所有参与者在到达时都被告知了情况，并由创业公司请客吃饭。实验设计确保没有造成任何经济、情感或身体伤害，目的在于揭示系统性漏洞，而非利用它们。

“这不是为了取乐而欺骗别人，”Humanity Protocol的创始人Terence Kwok在一份书面声明中表示。“这是在压力测试我们都依赖的系统，展示在AI参与下信任是多么容易被制造出来。如果一个小团队能这样做作为实验，想象一下有恶意意图的协调不良行为者能达到的程度，”他补充道。

KYC系统，提升线上安全和防欺诈的风险

这些发现强调了数字平台面临的更广泛挑战：传统的KYC协议是在生成式AI出现之前设计的，已变得越来越不充分。诸如照片验证、基本的活体检测和文件上传等标准验证措施，难以跟上能够生成超逼真图像、声音和行为的AI工具的步伐，这些工具能令人信服地模仿人类用户。

虽然对交友平台的直接影响可能仅限于浪费时间或情感操控，但在金融和安全领域，风险要高得多。根据美国联邦贸易委员会的数据，2022年美国人在恋爱诈骗中损失超过13亿美元，成为最昂贵的消费者欺诈类别。随着AI技术的不断进步，善意实验与大规模欺诈之间的界限正迅速缩小。如果没有能够适应生成式AI并验证人类身份的KYC框架，线上平台将面临成为下一代AI驱动剥削的主要目标的风险。