Humanity Protocolの実験が明らかにする、AIがKYCを回避しデジタル信頼を悪用する方法

要点

Humanity Protocolの管理された実験により、AIが信頼性の高い偽プロフィールを作成し、本人確認を回避できることが示され、従来のKYCシステムの重大な弱点が明らかになり、オンライン上のAI駆動型詐欺のリスクが高まっていることが浮き彫りになった。

インターネットの信頼層の開発に焦点を当てたテクノロジースタートアップ、Humanity Protocolは、最近、AIを活用して非常に説得力のある偽プロフィールを作成し、主要な出会い系プラットフォームでの本人確認を回避し、実際のユーザーと大規模に交流する方法を探るための管理された社会実験を実施した。

結果は、生成AIが支配する時代において従来のKnow Your Customer（KYC）システムの有効性に関する緊急の懸念を浮き彫りにし、これらの脆弱性が悪意のある者によって悪用される可能性も示している。

この実験は2025年10月から12月までの2か月間行われ、Humanity Protocolのチーム6名が参加した。Reve AI、ChatGPT、Nanobanana、Midjourneyなどの公開利用可能なAIツールを使用し、チームは4つの異なるTinderプロフィールを作成し、写真や経歴の詳細も含めた。

現実的な活動を維持するために、チームはGitHubのオープンソースツールであるTinderGPTを利用し、プロフィールが出会い系アプリ上で100以上の会話を同時に管理できるようにした。アカウントはポルトガル、スペイン、セルビア、インドネシア、タイの複数の国で作成されたが、すべてのプロフィールはTinder Goldを使用して位置情報をポルトガルに設定した。実験期間中、AI生成アカウントは296人の実在のTinderユーザーと交流し、そのうち40人を対面で会うことに成功させた。

実験はポルトガルのリスボンのレストランで倫理的に終了し、参加者全員に到着時に状況を説明し、スタートアップによる夕食も提供された。実験の設計は、金銭的、感情的、身体的な害を与えないことを保証し、目的はシステムの脆弱性を暴露することであって、それを悪用することではなかった。

「これは人を騙すための遊びではありません」と、Humanity Protocolの創設者、Terence Kwokは書面での声明で述べた。「私たちが依存しているシステムをストレステストし、AIが関与することで信頼がいかに簡単に作り出せるかを示すことが目的でした。もし小さなチームがこれを実験としてできるなら、悪意を持つ協調した者たちが何を達成できるか想像してください」と付け加えた。

KYCシステム、オンラインセキュリティと詐欺防止のリスクを高める

この調査結果は、デジタルプラットフォームにとってより広範な課題を浮き彫りにしている。従来のKYCプロトコルは、生成AIの登場以前に考案されたものであり、ますます不十分になっている。写真確認、基本的なライブネス検出、書類アップロードといった標準的な本人確認手段は、超リアルな画像や声、行動を生成できるAIツールの進化に追いついていない。

出会い系プラットフォームにおける即時的な影響は、時間の浪費や感情的操作にとどまるかもしれないが、金融やセキュリティの分野でははるかに重大なリスクが存在する。米連邦取引委員会（FTC）によると、2022年にアメリカ人は恋愛詐欺で13億ドル以上を失い、最も高額な消費者詐欺のカテゴリーとなっている。AI技術の進歩に伴い、善意の実験と大規模な詐欺の境界は急速に狭まっている。生成AIに適応し、人間性を検証できるKYCフレームワークがなければ、オンラインプラットフォームは次世代のAI駆動型搾取の主要なターゲットとなるリスクがある。