Децентрализованный ИИ наконец-то дождался своего «ага-момента» —

Модель с сотней миллиардов параметров можно запускать на одной потребительской видеокарте? Да ещё и с криптографическим доказательством? Раньше об этом и мечтать не приходилось.

Раньше запуск ИИ-инференса был замкнутым кругом: либо вкладываешь деньги в чёрный ящик централизованных платформ, отдавая им и модель, и данные; либо переживаешь, что кто-то подглядит твои данные или подделает результаты. Вариантов особо не было.

Теперь команда нашла способ взломать эту систему с помощью технологий. В основе их подхода — два слова: разбиение задачи.

Задачу инференса большой модели разбивают на множество маленьких частей и передают на вычисление обычным GPU в распределённой сети. Каждый узел видит только кусочек задачи и не может восстановить полные данные; а после вычислений — подписывает результат криптографической подписью, доказывая: «Я вычислил именно это, без обмана».

Не будем вдаваться в технические детали, главное — порог входа снизился: твоя домашняя 3090 больше не будет пылиться, подключайся к сети, участвуй в инференсе и даже зарабатывай.

Вот как выглядит настоящая децентрализация: без зависимости от гигантов, без жертв для приватности, с возможностью вернуть вычислительную мощность народу.