Швидкий розвиток ШІ значно підвищить наш попит на технологію Web3.
Автор: KK, засновник HashGlobal
Нещодавно я послухав розповідь доктора Лу Ці та доктора Чжан Хунцзяна про велику модель і ChatGPT, і я багато чого отримав. Я зібрав деякі думки та поділився ними з практиками Web3:
Побудьте досить довго зі своїми домашніми тваринами, і ви зрозумієте, що кіт — це просто велика модель або комбінація моделей у кількох вимірах, простіших за вашу.
2 Еволюція моделі буде дуже схожа на еволюцію генів і життя, суть та сама. Поява архітектури моделі Transformer нагадує перший випадок, коли молекула «ненавмисно» побудувала реплікувану РНК; GPT-1, 2, 3, 3.5, 4, а також подальший розвиток моделі та еволюція, доки не існує кометоподібної подія, це може бути як вибух життя, все швидше і швидше, і все більше і більше «виходить з-під контролю». Сама модель має «внутрішню рушійну силу», яка продовжує ускладнюватися, що є законом Всесвіту.
3 Понад 30 років тому Стівен Пінкер виявив, що мова є людським інстинктом, так само як ми зараз усвідомлюємо, що початкова мовна здатність є джерелом здатності до узагальнення, якої ми прагнемо під час навчання моделі. Чому штучний інтелект і дослідження мови зазнали невдачі в минулому, тому що шлях був зворотним! Мова – це інстинкт, який виникає, коли нейронна система людського мозку є достатньо складною. Що стосується того, чи вона еволюціонувала в китайську чи англійську, мова птахів пов’язана з навколишнім середовищем і племенами. Узагальнена модель та інші «моделі» накладаються, щоб створити дивовижне розумне тіло людських істот. Вам потрібно активно проектувати та створювати інтелектуальних агентів або AGI, і шлях повністю змінюється. Я думаю, що це не неможливо, але це в 100 мільйонів разів складніше.
4 Якщо існує високовимірне розумне тіло або «бог» «на вершині» нашого Всесвіту, воно повинно бути таким же здивованим, побачивши кембрійський вибух на землі, як ми бачимо ChatGPT сьогодні. На даний момент я не можу це повністю пояснити, я можу лише повільно переживати та вчитися, намагаючись зрозуміти.
5AGI можна розібрати на Reason, Plan, Solveproblems, Thinkabstractly, Comprehend складні ідеї та Learning. GPT4 наразі доступний, за винятком Plan, і Learning — це половина (оскільки він базується на моделі попереднього навчання й не може вивчатися в реальному часі), а все інше доступне.
6 Середня здатність до навчання людського мозку розвивається повільно, але як тільки розвиток кремнієвого інтелекту йде в правильному напрямку, швидкість може бути експоненціальною (див. різницю між GPT4 і GPT3.5).
7 великих моделей = великі дані + велика обчислювальна потужність + потужні алгоритми. У світі це можуть зробити тільки США і Китай. Складність створення великої моделі полягає в накопиченні чіпів, розробників CUDA (платформа програмування GPU), інженерної конструкції та високоякісних даних (для навчання, налаштування параметрів і вирівнювання). Вирівнювання має два аспекти: один полягає в тому, щоб узгодити модель і вираження людського мозку, а інший — узгодити людські моральні стандарти та інтереси. Великі можливості для вітчизняної вертикальної моделі є як мінімум у двох напрямках: медицина та освіта.
Хоча 8GPT4 все ще має слабкі сторони та недоліки, як і людський мозок, коли йому дають більш чіткі інструкції чи підказки, він може бути сильнішим; він також може бути більш досконалим після виклику інших допоміжних інструментів. Подібно до того, як людський мозок також потребує таких інструментів, як калькулятори, щоб виконувати завдання, з якими сам людський мозок не вміє.
Кількість параметрів 9 великих моделей слід порівнювати з кількістю синапсів нейронів людського мозку (не нейронів), яка становить 100 трильйонів. Кількість параметрів GPT4 ще не оголошена, але, за оцінками, кількість параметрів великої моделі буде досягнута найближчим часом.
Поточний рівень галюцинацій 10GPT4 становить близько 10%-14%, який необхідно зменшити. Частота галюцинацій є неминучою рисою «гуманоїдних» моделей. Цей коефіцієнт все ще занадто високий порівняно з людьми. Від того, чи вдасться його ефективно знизити, залежатиме від того, чи буде розвиток AGI продовжувати зростати протягом усього шляху або увійде в період спаду через кілька років.
11 Особисто для мене найбільше значення ChatGPT полягає в тому, що він є найбільш прямим і незаперечним доказом того, що на основі простих розрахункових вузлів і функцій, якщо число достатньо велике і модель достатньо велика, досить складна модель мислення може Ця система є кінцевою, а не нескінченною. За людською мовою та мисленням, яке керує нею, може не бути душі. Це може бути щось, що «виникає» після постійного налаштування еволюцією середовища після 100 трильйонів синаптичних зв’язків. Усе це дуже відповідає стрімкому прогресу різноманітних досліджень щодо питання «звідки беруться люди» за останні двісті років.
12 Усі ланцюжки доказів від окремих клітин до формування людських істот достатньо повні; щодо формування складних систем існування генів і «мотивів» також є повні теорії; але чи можуть люди створити AGI на основі кремнію на всi науковi теорi?вовняної тканини? Деякі люди думають, що це кілька років, деякі люди думають, що це десятиліття, і більше людей вважають, що це ніколи (навіть після того, як побачили результати AlphaGo у сфері Go), але ChatGPT дає найбільш чітку відповідь із залізними фактами. Команда Сема ніколи не мала відчувати, що людський мозок настільки великий, що вони можуть бути такими рішучими, щоб слідувати шляхом AGI великих моделей. Спалювати 100 мільйонів доларів США на місяць все ще є випробуванням віри.
13 Через інше апаратне забезпечення, що лежить в основі, «стратегія» ChatGPT, імовірно, сильно відрізняється від людського мозку, і вона неефективна, але дивно, що результати, отримані Нею, настільки схожі на людські. Людське мислення, по суті, може керуватися простими правилами.
14 «Правила» мови та мислення можуть бути не повністю підсумовані нами відповідно до «граматики».Наразі це правило є імпліцитним і не може бути повністю спрощено та узагальнено. Тож наразі ми можемо використовувати для цього лише великі моделі. Зрештою, структура людського мозку природним чином розвинулась із окремих клітин. Навіть якщо є творець, його слід «розкрити» після Всесвіту, а потім дозволити йому go. Інакше як могло бути так багато? багів і недоліків, лол.
15 Я захоплююся Стівеном Пінкером. Він зміг переконливо пояснити, що мова є інстинктом усіх людей і «закарбована» в наших генах десятиліття тому, використовуючи лише спостереження та міркування. Я не знаю, чи Сем читав книгу «Language Instinct», але він довів, що штучні мережі, такі як ChatGPT, можуть дуже добре працювати зі створенням мови. Мовний інстинкт і логічне мислення не такі складні, як здається. ChatGPT «мовчки» виявив логіку мови. Мова також буде «інстинктом», який відрізнятиме всі кремнієві AGI від інших кремнієвих калькуляторів і ШІ.
16 І людський мозок, і мозок, що базується на вуглеці, люблять узагальнювати та вдосконалювати (ймовірно, через жорстоку еволюцію), тому вони надзвичайно ефективні (з точки зору використання енергії); але вони погано справляються з незводними обчисленнями та обробкою, і ми знайте, що багато моделей розрахунку можуть виконувати лише крок за кроком. Архітектура GPT4 безумовно не є оптимальною, без особливих узагальнень і спрощень, тому енергоспоживання надзвичайно велике. Проте було сформовано глобальний консенсус, що «цей шлях здійсненний». Пізніше ми побачимо, як кілька команд у Сполучених Штатах і Китаї прискорять прогрес у різних аспектах: обчислювальна потужність мікросхем, якість даних, оптимізація алгоритмів та інженерна архітектура.
Системою оцінки цінностей мозку 17 людей повинні бути ДНК і генетичні гени, утворені молекулами на основі вуглецю. «Щоб» максимізувати ймовірність власної реплікації, завдяки силі природної еволюції, встановіть ваги для синапсів нейронів, і поступово розвиватися, щоб визначити вниз. «Модель», яку підтримує цей вуглецевий обчислювальний вузол, далека від досконалості, а швидкість еволюції повільна. Коригування «ваги» та «алгоритму» вкрай неефективне, і воно взагалі не встигає за змінами навколишнього середовища. Тому ми маємо людські бажання і страждання, про які згадують різні релігії.
18 У книзі "WhyBuddismis True" згадується, що людський мозок має принаймні 7 модулів (має бути багатомодальна паралельна велика модель). Який модуль мислення займає тему «сьогодення» і те, як люди приймають «рішення», насправді визначається «почуттям». І це «відчуття» визначається «старою» системою оцінки цінностей, породженою еволюцією «людини» (одним із носіїв можуть бути кишкові бактерії, ха-ха). Я пропоную вам прочитати розділи 6, 7 і 9 нотаток для читання, які я написав кілька років тому. Він доступний в офіційному акаунті Alpine Academy.
19 Уявіть собі, якби люди справді створили AGI та роботів на основі кремнію. Яка система оцінки цінностей керує мозком робота? Чи робот теж заплутається «Звідки я прийшов і куди йду»? Люди мають Шак’ямуні, чому не можуть роботи? Яким буде «Пробудження роботів»? Чи напише певний робот одного дня книгу «Чому Machinismis True», щоб закликати роботів прокинутися, закликати роботів увійти в Нірвану та позбутися «реінкарнації», встановленої людьми?
Обмеження в 20 енергій було б жорстким обмеженням для еволюції моделі. Однак режим споживання енергії кремнієвим AGI у майбутньому має бути набагато ефективнішим, ніж зараз. Зрештою, модель людського мозку на основі вуглецю еволюціонувала ітеративно протягом мільярда років, перш ніж досягти енергоефективності ворони. мозок. У майбутньому енергоспоживання AGI на основі кремнію може бути в сотні мільйонів разів або навіть більше, ніж енергія, яку люди можуть використовувати сьогодні, але обчислення та речі, які можна буде обробити, також будуть у сотні мільйонів разів. Можливо, немає впевненості, що технологія керованого ядерного синтезу з’явиться під рукою. У цьому випадку енергії на Землі може вистачити, не кажучи вже про Сонячну систему, Чумацький Шлях і більш широкий Всесвіт.
ChatGPT і AGI чудові, треба сказати, супер супер! Нам пощастило жити в цю епоху, ми не тільки можемо чітко зрозуміти, звідки походять люди, але й можемо зрозуміти, куди вони прямують.
Стрімкий розвиток AI значно підвищить наш попит на технологію Web3: як підтвердити права на створення контенту; як встановити особу людини (Сем займається worldcoin); яка користь від такої продуктивності? Ви можете уявити всі підписки на вміст і використання банківської системи для здійснення переказів і транскордонних переказів? Чи можете ви відкрити банківський рахунок для пристрою IoT? Чи можете ви переказати 0,01 цента 10 000 користувачів одночасно? ...Минулого разу я казав, що наступні три роки стануть моментом для iPhone для Web3, і кількість користувачів Web3 точно перевищить 100 мільйонів за три роки, або навіть значно перевищить. Ви можете побачити маховик нижче:
Я завжди любив читати книги про науки про життя, складні системи та буддизм (як філософію). Гени», «Знизу вгору», «Соціальне завоювання Землі», «Мовний інстинкт», «Езотерична простота», «Назовні». контролю» та «Чому буддизм істинний». Я думаю, якщо ці автори ще живі і мають здатність писати, вони повинні спостерігати за майбутнім розвитком GPT і написати нове видання книги.
Людське життя надто коротке, і багато чудових ідей, на жаль, назавжди втрачені у довгій річці історії. Книги, музика, кіно- і телезаписи мають становити лише дуже малу частину. Навіть якщо записані, стільки чудових книг і істин завжди було, скільки може прочитати одна людина? AGI на основі кремнію взагалі не має цієї проблеми.
Настав час дізнатися діалог між Мофеусом і Нео у фільмі «Матриця» і прочитати його ще раз.
Автор: KK, засновник HashGlobal
Переглянути оригінал
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Практик Web3 розглядає ChatGPT і AGI
Автор: KK, засновник HashGlobal
Нещодавно я послухав розповідь доктора Лу Ці та доктора Чжан Хунцзяна про велику модель і ChatGPT, і я багато чого отримав. Я зібрав деякі думки та поділився ними з практиками Web3:
2 Еволюція моделі буде дуже схожа на еволюцію генів і життя, суть та сама. Поява архітектури моделі Transformer нагадує перший випадок, коли молекула «ненавмисно» побудувала реплікувану РНК; GPT-1, 2, 3, 3.5, 4, а також подальший розвиток моделі та еволюція, доки не існує кометоподібної подія, це може бути як вибух життя, все швидше і швидше, і все більше і більше «виходить з-під контролю». Сама модель має «внутрішню рушійну силу», яка продовжує ускладнюватися, що є законом Всесвіту.
3 Понад 30 років тому Стівен Пінкер виявив, що мова є людським інстинктом, так само як ми зараз усвідомлюємо, що початкова мовна здатність є джерелом здатності до узагальнення, якої ми прагнемо під час навчання моделі. Чому штучний інтелект і дослідження мови зазнали невдачі в минулому, тому що шлях був зворотним! Мова – це інстинкт, який виникає, коли нейронна система людського мозку є достатньо складною. Що стосується того, чи вона еволюціонувала в китайську чи англійську, мова птахів пов’язана з навколишнім середовищем і племенами. Узагальнена модель та інші «моделі» накладаються, щоб створити дивовижне розумне тіло людських істот. Вам потрібно активно проектувати та створювати інтелектуальних агентів або AGI, і шлях повністю змінюється. Я думаю, що це не неможливо, але це в 100 мільйонів разів складніше.
4 Якщо існує високовимірне розумне тіло або «бог» «на вершині» нашого Всесвіту, воно повинно бути таким же здивованим, побачивши кембрійський вибух на землі, як ми бачимо ChatGPT сьогодні. На даний момент я не можу це повністю пояснити, я можу лише повільно переживати та вчитися, намагаючись зрозуміти.
5AGI можна розібрати на Reason, Plan, Solveproblems, Thinkabstractly, Comprehend складні ідеї та Learning. GPT4 наразі доступний, за винятком Plan, і Learning — це половина (оскільки він базується на моделі попереднього навчання й не може вивчатися в реальному часі), а все інше доступне.
6 Середня здатність до навчання людського мозку розвивається повільно, але як тільки розвиток кремнієвого інтелекту йде в правильному напрямку, швидкість може бути експоненціальною (див. різницю між GPT4 і GPT3.5).
7 великих моделей = великі дані + велика обчислювальна потужність + потужні алгоритми. У світі це можуть зробити тільки США і Китай. Складність створення великої моделі полягає в накопиченні чіпів, розробників CUDA (платформа програмування GPU), інженерної конструкції та високоякісних даних (для навчання, налаштування параметрів і вирівнювання). Вирівнювання має два аспекти: один полягає в тому, щоб узгодити модель і вираження людського мозку, а інший — узгодити людські моральні стандарти та інтереси. Великі можливості для вітчизняної вертикальної моделі є як мінімум у двох напрямках: медицина та освіта.
Хоча 8GPT4 все ще має слабкі сторони та недоліки, як і людський мозок, коли йому дають більш чіткі інструкції чи підказки, він може бути сильнішим; він також може бути більш досконалим після виклику інших допоміжних інструментів. Подібно до того, як людський мозок також потребує таких інструментів, як калькулятори, щоб виконувати завдання, з якими сам людський мозок не вміє.
Кількість параметрів 9 великих моделей слід порівнювати з кількістю синапсів нейронів людського мозку (не нейронів), яка становить 100 трильйонів. Кількість параметрів GPT4 ще не оголошена, але, за оцінками, кількість параметрів великої моделі буде досягнута найближчим часом.
Поточний рівень галюцинацій 10GPT4 становить близько 10%-14%, який необхідно зменшити. Частота галюцинацій є неминучою рисою «гуманоїдних» моделей. Цей коефіцієнт все ще занадто високий порівняно з людьми. Від того, чи вдасться його ефективно знизити, залежатиме від того, чи буде розвиток AGI продовжувати зростати протягом усього шляху або увійде в період спаду через кілька років.
11 Особисто для мене найбільше значення ChatGPT полягає в тому, що він є найбільш прямим і незаперечним доказом того, що на основі простих розрахункових вузлів і функцій, якщо число достатньо велике і модель достатньо велика, досить складна модель мислення може Ця система є кінцевою, а не нескінченною. За людською мовою та мисленням, яке керує нею, може не бути душі. Це може бути щось, що «виникає» після постійного налаштування еволюцією середовища після 100 трильйонів синаптичних зв’язків. Усе це дуже відповідає стрімкому прогресу різноманітних досліджень щодо питання «звідки беруться люди» за останні двісті років.
12 Усі ланцюжки доказів від окремих клітин до формування людських істот достатньо повні; щодо формування складних систем існування генів і «мотивів» також є повні теорії; але чи можуть люди створити AGI на основі кремнію на всi науковi теорi?вовняної тканини? Деякі люди думають, що це кілька років, деякі люди думають, що це десятиліття, і більше людей вважають, що це ніколи (навіть після того, як побачили результати AlphaGo у сфері Go), але ChatGPT дає найбільш чітку відповідь із залізними фактами. Команда Сема ніколи не мала відчувати, що людський мозок настільки великий, що вони можуть бути такими рішучими, щоб слідувати шляхом AGI великих моделей. Спалювати 100 мільйонів доларів США на місяць все ще є випробуванням віри.
13 Через інше апаратне забезпечення, що лежить в основі, «стратегія» ChatGPT, імовірно, сильно відрізняється від людського мозку, і вона неефективна, але дивно, що результати, отримані Нею, настільки схожі на людські. Людське мислення, по суті, може керуватися простими правилами.
14 «Правила» мови та мислення можуть бути не повністю підсумовані нами відповідно до «граматики».Наразі це правило є імпліцитним і не може бути повністю спрощено та узагальнено. Тож наразі ми можемо використовувати для цього лише великі моделі. Зрештою, структура людського мозку природним чином розвинулась із окремих клітин. Навіть якщо є творець, його слід «розкрити» після Всесвіту, а потім дозволити йому go. Інакше як могло бути так багато? багів і недоліків, лол.
15 Я захоплююся Стівеном Пінкером. Він зміг переконливо пояснити, що мова є інстинктом усіх людей і «закарбована» в наших генах десятиліття тому, використовуючи лише спостереження та міркування. Я не знаю, чи Сем читав книгу «Language Instinct», але він довів, що штучні мережі, такі як ChatGPT, можуть дуже добре працювати зі створенням мови. Мовний інстинкт і логічне мислення не такі складні, як здається. ChatGPT «мовчки» виявив логіку мови. Мова також буде «інстинктом», який відрізнятиме всі кремнієві AGI від інших кремнієвих калькуляторів і ШІ.
16 І людський мозок, і мозок, що базується на вуглеці, люблять узагальнювати та вдосконалювати (ймовірно, через жорстоку еволюцію), тому вони надзвичайно ефективні (з точки зору використання енергії); але вони погано справляються з незводними обчисленнями та обробкою, і ми знайте, що багато моделей розрахунку можуть виконувати лише крок за кроком. Архітектура GPT4 безумовно не є оптимальною, без особливих узагальнень і спрощень, тому енергоспоживання надзвичайно велике. Проте було сформовано глобальний консенсус, що «цей шлях здійсненний». Пізніше ми побачимо, як кілька команд у Сполучених Штатах і Китаї прискорять прогрес у різних аспектах: обчислювальна потужність мікросхем, якість даних, оптимізація алгоритмів та інженерна архітектура.
Системою оцінки цінностей мозку 17 людей повинні бути ДНК і генетичні гени, утворені молекулами на основі вуглецю. «Щоб» максимізувати ймовірність власної реплікації, завдяки силі природної еволюції, встановіть ваги для синапсів нейронів, і поступово розвиватися, щоб визначити вниз. «Модель», яку підтримує цей вуглецевий обчислювальний вузол, далека від досконалості, а швидкість еволюції повільна. Коригування «ваги» та «алгоритму» вкрай неефективне, і воно взагалі не встигає за змінами навколишнього середовища. Тому ми маємо людські бажання і страждання, про які згадують різні релігії.
18 У книзі "WhyBuddismis True" згадується, що людський мозок має принаймні 7 модулів (має бути багатомодальна паралельна велика модель). Який модуль мислення займає тему «сьогодення» і те, як люди приймають «рішення», насправді визначається «почуттям». І це «відчуття» визначається «старою» системою оцінки цінностей, породженою еволюцією «людини» (одним із носіїв можуть бути кишкові бактерії, ха-ха). Я пропоную вам прочитати розділи 6, 7 і 9 нотаток для читання, які я написав кілька років тому. Він доступний в офіційному акаунті Alpine Academy.
19 Уявіть собі, якби люди справді створили AGI та роботів на основі кремнію. Яка система оцінки цінностей керує мозком робота? Чи робот теж заплутається «Звідки я прийшов і куди йду»? Люди мають Шак’ямуні, чому не можуть роботи? Яким буде «Пробудження роботів»? Чи напише певний робот одного дня книгу «Чому Machinismis True», щоб закликати роботів прокинутися, закликати роботів увійти в Нірвану та позбутися «реінкарнації», встановленої людьми?
Обмеження в 20 енергій було б жорстким обмеженням для еволюції моделі. Однак режим споживання енергії кремнієвим AGI у майбутньому має бути набагато ефективнішим, ніж зараз. Зрештою, модель людського мозку на основі вуглецю еволюціонувала ітеративно протягом мільярда років, перш ніж досягти енергоефективності ворони. мозок. У майбутньому енергоспоживання AGI на основі кремнію може бути в сотні мільйонів разів або навіть більше, ніж енергія, яку люди можуть використовувати сьогодні, але обчислення та речі, які можна буде обробити, також будуть у сотні мільйонів разів. Можливо, немає впевненості, що технологія керованого ядерного синтезу з’явиться під рукою. У цьому випадку енергії на Землі може вистачити, не кажучи вже про Сонячну систему, Чумацький Шлях і більш широкий Всесвіт.
ChatGPT і AGI чудові, треба сказати, супер супер! Нам пощастило жити в цю епоху, ми не тільки можемо чітко зрозуміти, звідки походять люди, але й можемо зрозуміти, куди вони прямують.
Стрімкий розвиток AI значно підвищить наш попит на технологію Web3: як підтвердити права на створення контенту; як встановити особу людини (Сем займається worldcoin); яка користь від такої продуктивності? Ви можете уявити всі підписки на вміст і використання банківської системи для здійснення переказів і транскордонних переказів? Чи можете ви відкрити банківський рахунок для пристрою IoT? Чи можете ви переказати 0,01 цента 10 000 користувачів одночасно? ...Минулого разу я казав, що наступні три роки стануть моментом для iPhone для Web3, і кількість користувачів Web3 точно перевищить 100 мільйонів за три роки, або навіть значно перевищить. Ви можете побачити маховик нижче:
Я завжди любив читати книги про науки про життя, складні системи та буддизм (як філософію). Гени», «Знизу вгору», «Соціальне завоювання Землі», «Мовний інстинкт», «Езотерична простота», «Назовні». контролю» та «Чому буддизм істинний». Я думаю, якщо ці автори ще живі і мають здатність писати, вони повинні спостерігати за майбутнім розвитком GPT і написати нове видання книги.
Людське життя надто коротке, і багато чудових ідей, на жаль, назавжди втрачені у довгій річці історії. Книги, музика, кіно- і телезаписи мають становити лише дуже малу частину. Навіть якщо записані, стільки чудових книг і істин завжди було, скільки може прочитати одна людина? AGI на основі кремнію взагалі не має цієї проблеми.
Настав час дізнатися діалог між Мофеусом і Нео у фільмі «Матриця» і прочитати його ще раз.
Автор: KK, засновник HashGlobal