AI compliant assets: Quantum is "re-evaluating"

作者：张烽

В настоящее время ИИ беспрецедентно глубоко встроился в общественное производство и повседневную жизнь, а его система безопасности и управления составляет фундамент цифровой эпохи. Однако приближается назревающая вычислительная революция, берущая начало в физических принципах — квантовые вычисления, — их потенциальная разрушительная сила ставит под строгие испытания существующие рубежи безопасности и рамки управления. Сможет ли квантовый вычислительный ресурс разрушить нынешние системы безопасности и управления для ИИ? Это не только технический вопрос, но и всеобъемлющий вызов, касающийся будущего порядка в цифровом обществе.Когда скачок вычислительных мощностей сталкивается с отставанием правил, как нам заблаговременно подготовиться к «Q-Day»?

I. Как квантовые вычисления угрожают широко применяемым на сегодняасимметричным криптографическималгоритмам?

Безопасность текущих ИИ-систем — от передачи моделей до хранения данных и аутентификации личности — в высокой степени зависит от асимметричных криптографических алгоритмов, представленных RSA, ECC (криптография на эллиптических кривых). Безопасность этих алгоритмов опирается на «вычислительную сложность» математических трудностей, таких как «разложение больших чисел» или «дискретный логарифм», с которыми классические компьютеры не могут справиться за приемлемое время.

Однако квантовые вычисления ведут к фундаментальному сдвигу парадигмы. Квантовые алгоритмы, представленные алгоритмом Шора, теоретически способны сократить время решения этих задач с экспоненциального уровня до полиномиального. В одной из работ говорится, что новейшие квантовые алгоритмы, включая алгоритм Реджева и его расширения, постоянно оптимизируют эффективность взлома асимметричной криптографии. Это означает, что как только появится достаточно масштабный (обычно речь о наличии миллионов устойчивых квантовых битов) универсальный квантовый компьютер, «замки», защищающие интернет-коммуникации, цифровые подписи и зашифрованные данные, могут быть открыты мгновенно.

Такая угроза не является чем-то далеким. Исследования сообщества Цзыюань (ZhiYuan) предупреждают: это угроза «уже идет». Злоумышленники могут уже сейчас перехватывать и сохранять зашифрованные данные (включая данные для обучения ИИ, параметры моделей и т. п.), а затем, когда квантовые компьютеры созреют, выполнять их дешифрование. Стратегия «сначала перехватить, потом расшифровать» подвергает риску всю высокоцкнную информацию, требующую долгосрочной конфиденциальности, включая государственные секреты, коммерческие патенты и персональные данные о частной жизни. Поэтому угроза квантовых вычислений для асимметричной криптографии носит базовый и системный характер: она напрямую расшатывает основу безопасности текущего ИИ и даже всего цифрового мира.

II. Какие новые вызовы стоят передмоделямиобучения ИИ и защитой конфиденциальности данных в условиях квантовых вычислений?

Развитие ИИ зависит от «кормления» огромными массивами данных и обучения сложных моделей; уже сам этот процесс полон вызовов для приватности и безопасности. Вмешательство квантовых вычислений делает эти вызовы еще более острыми и сложными.

Во-первых, долгосрочная конфиденциальность жизненного цикла данных оказывается неработоспособной. Как упоминалось выше, наборы данных для обучения ИИ, которые хранятся и/или передаются в зашифрованном виде в облаке, могут быть полностью раскрыты в результате будущего квантового дешифрования. Глобальный антиквантовый миграционный стратегический white paper Университета Си-Цзяо Тун по Цзянъю (Xi’an Jiaotong-Liverpool University) четко указывает: по всему миру стороны-оппоненты организованно реализуют эту стратегию «сбора данных», терпеливо ожидая наступления «Q-Day» (дня, когда квантовые вычисления станут практичными). Это создает первичную угрозу для ИИ-моделей, обучаемых на чувствительных данных (таких как медицинские записи, финансовая информация, биометрические признаки).

Во-вторых, технологии приватных вычислений, такие как федеративное обучение, сталкиваются с новыми испытаниями. Федеративное обучение защищает исходные данные за счет обучения модели локально и обмена только обновлениями параметров модели. Однако сами сведения об градиентах или обновления параметров, передаваемые в ходе взаимодействия, также зашифрованы при передаче. Если базовое шифрование будет скомпрометировано квантовыми вычислениями, злоумышленники смогут вывести по обратному механизму исходные характеристики данных участвующих сторон, из-за чего механизм защиты приватности фактически окажется фикцией.

Наконец, сложность кражи моделей и защиты интеллектуальной собственности резко возрастает. Обученная до зрелости ИИ-модель — ключевой актив компании. Сейчас веса и архитектура моделей обычно распространяются и развертываются с использованием шифрования. Квантовые вычисления могут сделать эти меры защиты неэффективными, приводя к тому, что модель легко копировать, подвергать обратной инженерии или модифицировать, что влечет серьезные нарушения прав интеллектуальной собственности и уязвимости безопасности. В «Синей книге по управлению искусственным интеллектом» Китайского института исследований в области информационных и коммуникационных технологий подчеркивается: управление ИИ должно быть нацелено на риски, такие как злоупотребление технологиями и безопасность данных, и квантовые вычисления, несомненно, многократно усиливают разрушительную силу этих рисков.

III. Как развитие квантового машинного обучения повлияет на****безопасность ИИ и этическую экспертизу в рамках?

Сочетание квантовых вычислений и ИИ — квантовое машинное обучение (QML) — предвещает новый виток прорывов по эффективности. Но одновременно оно приносит беспрецедентно новые вопросы безопасности и этики, которые ударяют по существующим рамкам экспертизы.

С точки зрения безопасности, QML может породить более мощные инструменты для атак. Например, квантовые алгоритмы способны существенно ускорять генерацию атакующих (adversarial) образцов, создавая более скрытные и разрушительные атаки, из-за чего текущие системы защиты ИИ, основанные на классических вычислениях (например, adversarial training, обнаружение аномалий), быстро устареют. Анализ называет «квант + ИИ» следующим полем боя за кибербезопасность, отмечая, что необходимо заранее совершенствовать соответствующие регуляторные рамки.

С точки зрения этики «черный ящик» QML может быть еще более глубоким, чем у классического ИИ. Процесс принятия решений опирается на квантовую суперпозицию и запутанные состояния, из-за чего его сложнее объяснить, проверить и привлечь к ответственности. Уже обсуждается множество этических споров и рисков, связанных с алгоритмической справедливостью, определением ответственности и технической управляемостью, которые приносит QML. Как внедрять существующие этические принципы ИИ (такие как прозрачность, справедливость, подотчетность) на квантовом масштабе? Как регуляторы должны проводить экспертизу модели принятия решений, построенной на квантовых схемах и потенциально находящейся в суперпозиции множества состояний? Это — сложные вопросы, на которые существующие рамки этической экспертизы пока не готовы. Модель управления должна перейти от простой технической нормативной комплаентности к более глубокому пониманию квантовых особенностей по своей сути и их социального воздействия.

IV. Сможет ли существующеерегулирование ИИ(например, GDPR) справиться с безопасностными изменениями, вызванными квантовыми вычислениями?

Текущие законы о регулировании ИИ и данных, представленные в том числе Регламентом ЕС о защите данных (GDPR), имеют на уровне идей руководящую ценность: такие принципы, как «защита по умолчанию и защита при проектировании», «минимизация данных», «ограничение хранения», «целостность и конфиденциальность» и т. п. Однако на уровне конкретной технической реализации и требований к соответствию они сталкиваются с «разрывом комплаентности», вызванным квантовыми вычислениями.

GDPR требует, чтобы контролеры данных принимали соответствующие технические и организационные меры для обеспечения безопасности данных. Но в условиях квантовой угрозы что считается «соответствующими» мерами шифрования? Продолжение использования алгоритмов, которые доказали свою квантовую небезопасность, с высокой вероятностью будет признано невыполнением обязанности по обеспечению безопасности в будущем. Как эффективно исполнять временные требования по уведомлению о утечках данных, когда случаются высокоуровневые атаки, использующие квантовые вычисления, которые могут завершиться мгновенно и не оставлять следов?

По всему миру законодатели уже осознали необходимость изменений. В отчете «Глобальный доклад о управлении искусственным интеллектом за 2025 год» показано, что страны ускоряют разработку специализированных законов об управлении ИИ и создают механизмы координации высокого уровня. В «Отчете о развитии цифрового Китая (2024)» Китай подчеркивает необходимость «ускорить совершенствование базовых институтов данных» и продолжать продвигать инициативу «ИИ+». Эти тенденции указывают на то, что система управления активно адаптируется. Однако специализированное регулирование для области пересечения «квантовые вычисления + ИИ» на сегодняшний день почти отсутствует. В существующих нормах недостаточно положений о конкретных вопросах — таких как графики миграции к постквантовой криптографии, стандарты аудита моделей QML и классификация уровней безопасности данных в квантовую эпоху — что делает их сложными для эффективного ответа на надвигающиеся изменения в сфере безопасности.

V. Каковы перспективы применения и трудности внедрения постквантовой криптографии всистемах ИИ?

Самое прямое техническое решение для противодействия квантовым угрозам — постквантовая криптография (PQC). PQC — это криптографические алгоритмы, устойчивые к атакам со стороны квантовых компьютеров; они не основаны на квантовых принципах, а строятся на новых математических задачах (таких как решетки, кодирование, многомерные переменные и т. п.), которые, как считается, даже квантовым компьютерам сложно быстро решить.

Перспективы применения PQC в ИИ-системах широки и требуют срочности. PQC может использоваться для защиты каждого этапа ИИ-рабочих потоков: шифрование обучающих данных и файлов моделей с помощью алгоритмов PQC; цифровая подпись PQC для проверки целостности и подлинности происхождения модели; создание защищенных каналов связи PQC между распределенными вычислительными узлами ИИ. Fortinet отмечает: PQC — это не далекая концепция, а практическое решение, настоятельно необходимое для защиты цифровых систем от потенциальных квантовых угроз.

Однако всестороннее внедрение PQC сталкивается с существенными трудностями:

Проблемы производительности и совместимости: многие алгоритмы PQC значительно превосходят существующие по размеру ключей, длине подписей или вычислительным затратам. При интеграции в процессы обучения и инференса ИИ, чувствительные к эффективности вычислений и задержкам, это может создать узкие места по производительности. Кроме того, требуется обновление всех связанных аппаратных средств, программного обеспечения и стеков протоколов для обеспечения совместимости.

Сложность стандартов и миграции: хотя такие организации, как NIST в США, продвигают процесс стандартизации PQC, окончательное утверждение стандартов и их глобальная унификация все еще потребуют времени. В публикации о тенденциях «коммерческой шифровальной передовой динамики», выпущенной Пекинским бюро по управлению криптографией (Beijing Mi Guan Ju), показано, что индустрия активно делает открытые реализации кандидатов NIST, чтобы помочь отраслям отвечать на угрозы. Весь процесс миграции — масштабный и сложный системный проект, связанный с оценкой рисков, выбором алгоритмов, гибридным развертыванием, тестированием и полной заменой; это особенно сложно для экосистемы ИИ со сложной структурой.

Новые риски безопасности: сами алгоритмы PQC — сравнительно новая область исследований; их долгосрочная надежность еще не прошла проверку практическим криптоанализом на уровне десятилетий, как это было у RSA. Развертывание в ИИ-системах PQC «в спешке», при наличии неизвестных уязвимостей, само по себе также является риском.

VI. Перед лицом этих перемен пассивное ожидание «Q-Day» — опасно

Квантовые вычисления оказывают реальное и надвигающееся разрушительное влияние на существующие системы безопасности и управления для ИИ. Это не означает полного уничтожения текущих систем, но путем подрыва их криптографической основы, усиления рисков для данных, усложнения этических проблем и обнажения отставания регулирования заставляет всю систему провести глубокое, дальновидное обновление.

Перед лицом этих перемен пассивное ожидание «Q-Day» — опасно. Мы предлагаем следующие выполнимые пути действий:

Запустить оценку квантовых рисков безопасности и составление реестра: незамедлительно провести оценку квантовых угроз по ключевым активам ИИ (особенно по моделям и данным, связанным с долгосрочно чувствительной информацией), определить наиболее уязвимые звенья и сформировать реестр приоритетов миграции.

Разработать и внедрить roadmap миграции PQC: следить за прогрессом со стороны организаций по стандартизации, таких как NIST, и начать планировать интеграцию PQC в разработке и эксплуатации ИИ-систем. В приоритете — применение дизайн-подхода «криптографическая гибкость» в новых и ключевых системах, чтобы обеспечить возможность бесшовной замены криптоалгоритмов в будущем. Можно рассмотреть промежуточный сценарий с гибридным шифрованием «классический + PQC» как переходный этап.

Продвигать адаптивное обновление системы управления: отраслевые организации, органы стандартизации и регуляторы должны сотрудничать, чтобы исследовать и включить требования устойчивости к квантовым атакам в стандарты безопасности ИИ, в правила защиты данных и в систему сертификации продуктов. Для этической экспертизы QML заранее создать исследовательскую рамку и руководства.

Усилить подготовку талантов и проведение исследований на стыке дисциплин: развивать гибридных специалистов, которые одновременно понимают ИИ, квантовые вычисления и криптографию; в исследованиях по безопасности ИИ включать модели квантовых угроз; финансировать разработку технологий квантоустойчивой безопасности для ИИ.

Вызовы, принесенные квантовыми вычислениями, огромны, но они также дают нам возможность заново взглянуть и укрепить фундамент цифрового мира. Благодаря активному планированию, совместным инновациям и гибкому управлению мы вполне можем построить более устойчивое будущее ИИ — такое, которое сможет одновременно воспользоваться преимуществами квантовых вычислительных мощностей и противостоять связанным с ними рискам безопасности.