Эксперимент Humanity Protocol показывает, как ИИ может обходить KYC и эксплуатировать цифровое доверие

Кратко

Контролируемый эксперимент Humanity Protocol показал, что ИИ может создавать убедительные фальшивые профили для обхода проверки личности, выявляя критические слабости традиционных систем KYC и подчеркивая растущие риски онлайн-мошенничества, управляемого ИИ.

Humanity Protocol, технологический стартап, сосредоточенный на разработке слоя доверия в интернете, недавно провел контролируемый социальный эксперимент, чтобы исследовать, как ИИ можно использовать для создания очень убедительных фальшивых профилей, обхода проверки личности на крупной платформе знакомств и взаимодействия с реальными пользователями в масштабах.

Результаты подчеркивают насущные проблемы эффективности традиционных систем Know Your Customer (KYC) в эпоху генеративного ИИ, а также потенциал использования этих уязвимостей злоумышленниками.

Эксперимент длился два месяца, с октября по декабрь 2025 года, и в нем участвовали шесть членов команды Humanity Protocol. Используя публично доступные инструменты ИИ, такие как Reve AI, ChatGPT, Nanobanana и Midjourney, команда создала четыре различных профиля на Tinder, с фотографиями и биографическими данными.

Для поддержания реалистичной активности команда использовала TinderGPT — открытый инструмент на GitHub, позволяющий управлять более чем 100 одновременными беседами с реальными пользователями в приложении для знакомств. Хотя аккаунты создавались в нескольких странах — Португалии, Испании, Сербии, Индонезии и Таиланде — все профили использовали Tinder Gold для установки местоположения в Португалии. За время эксперимента аккаунты, созданные ИИ, взаимодействовали с 296 реальными пользователями Tinder и успешно убедили 40 человек согласиться встретиться лично.

Эксперимент завершился этично в ресторане в Лиссабоне, Португалия, где всех участников проинформировали о ситуации по прибытии, а также угостили ужином от стартапа. Конструкция эксперимента обеспечила отсутствие финансового, эмоционального или физического вреда, а его целью было выявление системных уязвимостей, а не их использование.

«Это не было развлечением ради обмана людей», — заявил Терренс Квок, основатель Humanity Protocol, в письменном заявлении. «Речь шла о стресс-тестировании систем, на которые мы все полагаемся, и демонстрации того, как легко можно создать доверие, когда задействован ИИ. Если небольшая команда может сделать это в рамках эксперимента, то что могут достичь скоординированные злоумышленники с злым умыслом», — добавил он.

Системы KYC, повышение ставок для онлайн-безопасности и предотвращения мошенничества

Результаты подчеркивают более широкую проблему для цифровых платформ: традиционные протоколы KYC были разработаны в эпоху до появления генеративного ИИ и все чаще оказываются недостаточными. Стандартные меры проверки, такие как проверка фотографий, базовая проверка живости и загрузка документов, не успевают за возможностями ИИ, способного создавать гиперреалистичные изображения, голоса и поведение, убедительно имитирующие человеческих пользователей.

Хотя непосредственный эффект на платформы знакомств может ограничиваться потерей времени или эмоциональной манипуляцией, ставки гораздо выше в финансовых и безопасностных контекстах. По данным Федеральной торговой комиссии США, американцы потеряли более 1,3 миллиарда долларов из-за мошенничества на романтических сайтах в 2022 году, что делает его самой дорогостоящей категорией потребительского мошенничества. По мере развития технологий ИИ граница между добросовестным экспериментом и масштабным мошенничеством быстро стирается. Без рамок KYC, способных адаптироваться к генеративному ИИ и проверять человечность, а не только личность, онлайн-платформы рискуют стать главными целями следующего поколения эксплуатации, управляемой ИИ.