Децентралізований AI нарешті дочекався того самого «ага-моменту» —

Запустити модель з десятками мільярдів параметрів на одній споживчій відеокарті? Та ще й із криптографічним доказом? Раніше про таке навіть мріяти було страшно.

Раніше робота з AI-інференсом була замкненим колом: або витрачай гроші на централізовані чорні ящики й віддавай свої моделі та дані, або хвилюйся, що твої дані підглядають чи підробляють результати. Вибору, по суті, не було.

Тепер одна команда взяла й перевернула цю гру за допомогою технології. Їхній підхід тримається на двох словах: розподіл завдань.

Велику задачу інференсу розбивають на безліч маленьких частин і віддають на розрахунок звичайним GPU з розподіленої мережі. Кожен вузол бачить лише шматочок завдання, не може відтворити повні дані; після обчислення підписує результат криптографічно, доводячи: «я порахував саме це, без підтасовки».

Не вдаючись у технічні деталі, головне — поріг входу знижується: твоя домашня 3090 більше не припадає пилом, підключайся до мережі — і бери участь в інференсі та ще й заробляй на цьому.

Ось це і є справжня децентралізація: без залежності від гігантів, без жертвування приватністю, із поверненням обчислювальної потужності людям.