> AI の急速な発展により、Web3 テクノロジーの需要が大幅に促進されるでしょう。**執筆者: KK、HashGlobal 創設者**最近、Lu Qi 博士と Zhang Honjiang 博士の大型モデルと ChatGPT の共有を聞いて、多くのことを学びました。私はいくつかの考えをまとめ、Web3 実践者と共有しました。1. 家族のペットと十分長く一緒にいると、猫は、あなたのモデルよりもいくつかの次元で単純な大きなモデル、またはモデルの組み合わせにすぎないことがわかります。2 モデルの進化は遺伝子や生命の進化と非常に似ており、本質は同じです。 Transformer モデル アーキテクチャの出現は、分子が初めて「意図せずに」複製可能な RNA を構築したときのようなものです。GPT-1、2、3、3.5、4、およびその後のモデルの開発と進化は、彗星のようなものがない限り、それは生命の爆発のようなもので、ますます速くなり、ますます「制御不能」になるかもしれません。モデル自体には、複雑化し続ける「内部原動力」があり、それが宇宙の法則です。3 30 年以上前、スティーヴン ピンカーは言語が人間の本能であることを発見しました。ちょうど今、私たちがモデルのトレーニングで目指している一般化能力の源は元の言語能力であることに気づいているのと同じです。なぜ過去に人工知能と言語の研究が失敗したのか、それは道が逆だったからです。言語は人間の脳の神経系が十分に複雑になったときに現れる本能であり、それが中国語に進化したのか英語に進化したのかというと、鳥の言語は環境や部族と関係しています。一般化されたモデルと他の「モデル」が重ね合わされて、人間の驚異的な知的体が生み出されます。インテリジェント エージェントまたは AGI を積極的に設計および構築する必要があり、道は完全に逆になります。不可能ではないかもしれないが、1億倍難しいと思う。4 もし私たちの宇宙の「頂上」に高次元の知的体、あるいは「神」が存在するとしたら、それが地球上でカンブリア爆発を見たとき、それは今日私たちがChatGPTを見るのと同じくらい驚かれるはずです。当分は完全に説明することはできず、ゆっくりと経験して学び、理解しようとするしかありません。5AGI は、理由、計画、問題の解決、抽象的に考える、複雑なアイデアの理解、および学習に分解できます。 GPT4 は現在、Plan を除いて利用可能で、Learning はその半分 (事前トレーニング モデルに基づいており、リアルタイムで学習できないため) で、その他はすべて利用可能です。6 人間の脳の平均的な学習能力はゆっくりと進化しますが、シリコンベースの知能の開発が正しい方向に進むと、その速度は指数関数的に増加します (GPT4 と GPT3.5 の間のギャップを参照)。7 つの大きなモデル = ビッグデータ + 大きなコンピューティング能力 + 強力なアルゴリズム。それができるのは世界で米国と中国だけだ。大規模なモデルを作成する難しさは、チップ、CUDA (GPU プログラミング プラットフォーム) 開発者、エンジニアリング構築、および高品質データ (トレーニング、パラメーター調整、アライメント用) の蓄積にあります。調整には 2 つの側面があります。1 つは人間の脳のモデルと表現を調整することであり、もう 1 つは人間の道徳基準と利益を調整することです。国内の垂直モデルには、医療と教育という少なくとも 2 つの方向で取り組む大きなチャンスがあります。8GPT4 にはまだ弱点や欠点がありますが、人間の脳と同じように、より明確な指示やプロンプトが与えられるとより強力になる可能性があり、他の補助ツールを呼び出した後はより完璧になる可能性もあります。人間の脳も、人間の脳自体が苦手なタスクを完了するために電卓などのツールを必要とするのと同じように。9 つの大きなモデルのパラメータの数は、人間の脳 (ニューロンではない) のニューロンのシナプスの数である 100 兆と比較する必要があります。 GPT4 のパラメータ量はまだ発表されていませんが、近いうちに大型モデルのパラメータ量に近づくと予想されます。現在の 10GPT4 の幻覚率は約 10% ～ 14% であり、これを減らす必要があります。幻覚率は「人型」モデルの避けられない特徴です。この比率は人間と比較するとまだ高すぎます。それを効果的に下げることができるかどうかによって、AGI の開発がずっと上昇し続けるか、それとも数年後に谷期に入るかが決まります。11 私個人にとって、ChatGPT の最大の意義は、単純な計算ノードと関数に基づいて、数が十分に大きく、モデルが十分に大きい限り、十分に複雑な思考モデルが可能であるという、最も直接的で議論の余地のない証明であることです。このシステムは有限であり、無限ではありません。人間の言語やそれを動かす思考には魂が存在するのではなく、100兆回のシナプス接続を経て、環境の進化によってチューニングされ続けて「現れる」ものなのかもしれない。これらすべては、過去 200 年間に「人々はどこから来たのか」という問題に関するさまざまな研究が急速に進歩したことと非常に一致しています。12 単一細胞から人類の形成まで、すべての証拠連鎖は十分に完全である; 複雑なシステムの形成に関しては、遺伝子と「動機」の存在にも完全な理論がある; しかし、人間はシリコンベースの AGI を設計できるだろうかすべての科学理論について? 毛織物?数年かかると考える人もいれば、数十年かかると考える人もいますが、（囲碁の分野での AlphaGo のパフォーマンスを見ても）それは決してないだろうと考える人もいますが、ChatGPT は鉄の事実を持って最も明確な答えを与えてくれます。サムのチームは、人間の脳がこれほど優れているため、大型モデルの AGI ルートをたどることをこれほど決意できるとは思ってもいなかったはずですが、月に 1 億米ドルを消費するのは今でも信仰の試練です。基礎となるハードウェアが異なるため、ChatGPT の「戦略」は人間の脳とは大きく異なる可能性があり、非効率的ですが、Her によって生成される結果が非常に人間らしいものであることは驚くべきことです。人間の思考は本質的には単純なルールによって動かされているのかもしれません。14 言語や思考の「法則」は、私たちが「文法」に従って完全に要約できるものではなく、現時点では暗黙のルールであり、完全に単純化して要約することはできません。ですから、現状では大きなモデルを使うしかありません。結局のところ、人間の脳の構造は単一の細胞から自然に進化したものです。たとえ創造主がいたとしても、それは宇宙の後に「開かれ」、その後に任せられるべきですそうでなければ、どうしてこんなにたくさんのバグや欠点があるでしょうか（笑）。15 私はスティーブン・ピンカーを尊敬しています. 彼は、言語はすべての人間の本能であり、数十年前に私たちの遺伝子に「刻み込まれている」ということを、観察と推論だけを使って説得力を持って説明することができました。サムが「Language Instinct」という本を読んだかどうかはわかりませんが、彼は ChatGPT のような人工ネットワークが言語の作成に非常に優れた仕事をできることを証明しました。言語の本能と論理的思考は想像されているほど複雑ではなく、ChatGPT は言語の背後にあるロジックを「静かに」発見しました。言語は、すべてのシリコンベースの AGI を他のシリコンベースの計算機や AI と区別する「本能」でもあります。16 人間の脳も炭素ベースの脳も（おそらく残酷な進化によって強制された）一般化と洗練を好むため、（エネルギー使用の点で）非常に効率的ですが、既約計算と処理は苦手です。多くの計算モデルは段階的にしか実行できない可能性があることを知っておいてください。 GPT4 のアーキテクチャは明らかに最適化されておらず、あまり一般化や単純化が行われていないため、エネルギー消費が非常に高くなります。しかし、「この道は実現可能である」という世界的なコンセンサスが形成されており、その後、米国と中国の複数のチームが、チップのコンピューティング能力、データ品質、アルゴリズムの最適化、エンジニアリングアーキテクチャなど、さまざまな側面で進歩を加速させることになるでしょう。17人の脳の価値評価系は、炭素系分子からなるDNAと遺伝子であるはずであり、自然進化の力で自らの複製確率を最大化する「ために」ニューロンのシナプスに重みを設定し、そして徐々に進化してダウンを決定します。このカーボンベースのコンピューティングノードが支える「モデル」は完璧とは程遠く、進化の速度も遅く、「重さ」や「アルゴリズム」の調整も極めて非効率で、環境の変化に全く追いつけない。だからこそ、さまざまな宗教で言及されている人間の欲望や苦しみがあるのです。18 『WhyBuddismis True』という本では、人間の脳には少なくとも 7 つのモジュールがあると述べられています (マルチモーダル並列大規模モデルである必要があります)。どの思考モジュールが「現在」の主体を占め、人がどのように「決断」を下すかは、実は「感情」によって決まります。そして、この「感情」は、「人間」の進化によってもたらされた「古い」価値評価システムによって決定されます（その媒介者の一人は腸内細菌かもしれません、笑）。私が数年前に書いた読書ノートの第 6 章、第 7 章、および第 9 章を読んでみてください。アルペンアカデミーの公式アカウントからご覧いただけます。19 本当に人間がシリコンベースの AGI やロボットを作成した場合を想像してみてください。ロボットの脳を動かす価値評価システムとは？ロボットも「自分はどこから来てどこへ行くのか」と混乱するのだろうか？人間には釈迦がいるのに、なぜロボットには釈迦がいないのでしょうか？ロボットの覚醒はどのようなものになるのでしょうか？いつか、あるロボットが『機械主義が真実である理由』という本を書いて、ロボットの覚醒を呼びかけ、ロボットの涅槃への参入を呼びかけ、人間が設定した「輪廻転生」を取り除くことになるのだろうか？20 のエネルギー制限は、モデルの進化にとって厳しい上限となります。しかし、将来のシリコンベースのAGIのエネルギー消費モードは現在よりもはるかに効率的になるはずです 結局のところ、炭素ベースの人間の脳のモデルは、カラスのエネルギー効率に達するまでに10億年間繰り返し進化してきました脳。将来的には、シリコンベースのAGIのエネルギー消費量は、現在人間が使用できるエネルギーの数億倍、あるいはそれ以上になる可能性がありますが、処理できる計算や処理できる内容も数億倍になるでしょう。制御可能な核融合技術が実現するかどうかは確実ではないかもしれない。この場合、太陽系や天の川、さらには宇宙のエネルギーは言うに及ばず、地球上のエネルギーでも十分かもしれません。ChatGPTとAGIは素晴らしい、超超素晴らしいと言うべきです！この時代に生きている私たちは幸運なことに、人々がどこから来たのかを明確に理解できるだけでなく、人々がどこへ行くのかも理解できるかもしれません。AI の急速な発展により、コンテンツ作成の権利を確認する方法、個人のアイデンティティを確立する方法 (サムはワールドコインに従事しています)、それほど生産的であることに何の意味があるのかなど、Web3 テクノロジーに対する需要が大幅に促進されるでしょう。すべてのコンテンツを購読し、送金や国境を越えた送金を行うために銀行システムを使用することを想像できますか? IoT デバイス用の銀行口座を開設できますか? 10,000 人のユーザーに同時に 0.01 セントを送金できますか? ...前回、今後 3 年は Web3 にとって iPhone の瞬間であると述べましたが、Web3 ユーザーの数は 3 年後には間違いなく 1 億人を超える、あるいはそれをはるかに超えるでしょう。以下にフライホイールが表示されます。私は生命科学、複雑なシステム、そして（哲学としての）仏教に関する本を読むのがいつも好きでした。「遺伝子」、「ボトムアップ」、「地球の社会征服」、「言語本能」、「難解な単純さ」、「アウト」コントロールの」と「なぜ仏教は真実なのか」。これらの著者がまだ生きていて文章を書く能力があるなら、GPTの今後の発展を注視し、この本の新版を書くべきだと思います。人間の命はあまりにも短く、残念ながら多くの偉大なアイデアは歴史の長い川の中で永遠に失われてしまいます。本、音楽、映画、テレビの記録はごく一部にすぎません。たとえ記録されたとしても、これほど多くの偉大な本や真実が常に存在しているのに、一人はどれだけ読むことができるでしょうか？シリコンベースの AGI にはこの問題はまったくありません。映画「マトリックス」のモーフィアスとネオの会話を見つけて、もう一度読んでみる時が来ました。著者: HashGlobal 創設者 KK
Web3 実践者が ChatGPT と AGI に注目
執筆者: KK、HashGlobal 創設者
最近、Lu Qi 博士と Zhang Honjiang 博士の大型モデルと ChatGPT の共有を聞いて、多くのことを学びました。私はいくつかの考えをまとめ、Web3 実践者と共有しました。
2 モデルの進化は遺伝子や生命の進化と非常に似ており、本質は同じです。 Transformer モデル アーキテクチャの出現は、分子が初めて「意図せずに」複製可能な RNA を構築したときのようなものです。GPT-1、2、3、3.5、4、およびその後のモデルの開発と進化は、彗星のようなものがない限り、それは生命の爆発のようなもので、ますます速くなり、ますます「制御不能」になるかもしれません。モデル自体には、複雑化し続ける「内部原動力」があり、それが宇宙の法則です。
3 30 年以上前、スティーヴン ピンカーは言語が人間の本能であることを発見しました。ちょうど今、私たちがモデルのトレーニングで目指している一般化能力の源は元の言語能力であることに気づいているのと同じです。なぜ過去に人工知能と言語の研究が失敗したのか、それは道が逆だったからです。言語は人間の脳の神経系が十分に複雑になったときに現れる本能であり、それが中国語に進化したのか英語に進化したのかというと、鳥の言語は環境や部族と関係しています。一般化されたモデルと他の「モデル」が重ね合わされて、人間の驚異的な知的体が生み出されます。インテリジェント エージェントまたは AGI を積極的に設計および構築する必要があり、道は完全に逆になります。不可能ではないかもしれないが、1億倍難しいと思う。
4 もし私たちの宇宙の「頂上」に高次元の知的体、あるいは「神」が存在するとしたら、それが地球上でカンブリア爆発を見たとき、それは今日私たちがChatGPTを見るのと同じくらい驚かれるはずです。当分は完全に説明することはできず、ゆっくりと経験して学び、理解しようとするしかありません。
5AGI は、理由、計画、問題の解決、抽象的に考える、複雑なアイデアの理解、および学習に分解できます。 GPT4 は現在、Plan を除いて利用可能で、Learning はその半分 (事前トレーニング モデルに基づいており、リアルタイムで学習できないため) で、その他はすべて利用可能です。
6 人間の脳の平均的な学習能力はゆっくりと進化しますが、シリコンベースの知能の開発が正しい方向に進むと、その速度は指数関数的に増加します (GPT4 と GPT3.5 の間のギャップを参照)。
7 つの大きなモデル = ビッグデータ + 大きなコンピューティング能力 + 強力なアルゴリズム。それができるのは世界で米国と中国だけだ。大規模なモデルを作成する難しさは、チップ、CUDA (GPU プログラミング プラットフォーム) 開発者、エンジニアリング構築、および高品質データ (トレーニング、パラメーター調整、アライメント用) の蓄積にあります。調整には 2 つの側面があります。1 つは人間の脳のモデルと表現を調整することであり、もう 1 つは人間の道徳基準と利益を調整することです。国内の垂直モデルには、医療と教育という少なくとも 2 つの方向で取り組む大きなチャンスがあります。
8GPT4 にはまだ弱点や欠点がありますが、人間の脳と同じように、より明確な指示やプロンプトが与えられるとより強力になる可能性があり、他の補助ツールを呼び出した後はより完璧になる可能性もあります。人間の脳も、人間の脳自体が苦手なタスクを完了するために電卓などのツールを必要とするのと同じように。
9 つの大きなモデルのパラメータの数は、人間の脳 (ニューロンではない) のニューロンのシナプスの数である 100 兆と比較する必要があります。 GPT4 のパラメータ量はまだ発表されていませんが、近いうちに大型モデルのパラメータ量に近づくと予想されます。
現在の 10GPT4 の幻覚率は約 10% ～ 14% であり、これを減らす必要があります。幻覚率は「人型」モデルの避けられない特徴です。この比率は人間と比較するとまだ高すぎます。それを効果的に下げることができるかどうかによって、AGI の開発がずっと上昇し続けるか、それとも数年後に谷期に入るかが決まります。
11 私個人にとって、ChatGPT の最大の意義は、単純な計算ノードと関数に基づいて、数が十分に大きく、モデルが十分に大きい限り、十分に複雑な思考モデルが可能であるという、最も直接的で議論の余地のない証明であることです。このシステムは有限であり、無限ではありません。人間の言語やそれを動かす思考には魂が存在するのではなく、100兆回のシナプス接続を経て、環境の進化によってチューニングされ続けて「現れる」ものなのかもしれない。これらすべては、過去 200 年間に「人々はどこから来たのか」という問題に関するさまざまな研究が急速に進歩したことと非常に一致しています。
12 単一細胞から人類の形成まで、すべての証拠連鎖は十分に完全である; 複雑なシステムの形成に関しては、遺伝子と「動機」の存在にも完全な理論がある; しかし、人間はシリコンベースの AGI を設計できるだろうかすべての科学理論について? 毛織物?数年かかると考える人もいれば、数十年かかると考える人もいますが、（囲碁の分野での AlphaGo のパフォーマンスを見ても）それは決してないだろうと考える人もいますが、ChatGPT は鉄の事実を持って最も明確な答えを与えてくれます。サムのチームは、人間の脳がこれほど優れているため、大型モデルの AGI ルートをたどることをこれほど決意できるとは思ってもいなかったはずですが、月に 1 億米ドルを消費するのは今でも信仰の試練です。
基礎となるハードウェアが異なるため、ChatGPT の「戦略」は人間の脳とは大きく異なる可能性があり、非効率的ですが、Her によって生成される結果が非常に人間らしいものであることは驚くべきことです。人間の思考は本質的には単純なルールによって動かされているのかもしれません。
14 言語や思考の「法則」は、私たちが「文法」に従って完全に要約できるものではなく、現時点では暗黙のルールであり、完全に単純化して要約することはできません。ですから、現状では大きなモデルを使うしかありません。結局のところ、人間の脳の構造は単一の細胞から自然に進化したものです。たとえ創造主がいたとしても、それは宇宙の後に「開かれ」、その後に任せられるべきですそうでなければ、どうしてこんなにたくさんのバグや欠点があるでしょうか（笑）。
15 私はスティーブン・ピンカーを尊敬しています. 彼は、言語はすべての人間の本能であり、数十年前に私たちの遺伝子に「刻み込まれている」ということを、観察と推論だけを使って説得力を持って説明することができました。サムが「Language Instinct」という本を読んだかどうかはわかりませんが、彼は ChatGPT のような人工ネットワークが言語の作成に非常に優れた仕事をできることを証明しました。言語の本能と論理的思考は想像されているほど複雑ではなく、ChatGPT は言語の背後にあるロジックを「静かに」発見しました。言語は、すべてのシリコンベースの AGI を他のシリコンベースの計算機や AI と区別する「本能」でもあります。
16 人間の脳も炭素ベースの脳も（おそらく残酷な進化によって強制された）一般化と洗練を好むため、（エネルギー使用の点で）非常に効率的ですが、既約計算と処理は苦手です。多くの計算モデルは段階的にしか実行できない可能性があることを知っておいてください。 GPT4 のアーキテクチャは明らかに最適化されておらず、あまり一般化や単純化が行われていないため、エネルギー消費が非常に高くなります。しかし、「この道は実現可能である」という世界的なコンセンサスが形成されており、その後、米国と中国の複数のチームが、チップのコンピューティング能力、データ品質、アルゴリズムの最適化、エンジニアリングアーキテクチャなど、さまざまな側面で進歩を加速させることになるでしょう。
17人の脳の価値評価系は、炭素系分子からなるDNAと遺伝子であるはずであり、自然進化の力で自らの複製確率を最大化する「ために」ニューロンのシナプスに重みを設定し、そして徐々に進化してダウンを決定します。このカーボンベースのコンピューティングノードが支える「モデル」は完璧とは程遠く、進化の速度も遅く、「重さ」や「アルゴリズム」の調整も極めて非効率で、環境の変化に全く追いつけない。だからこそ、さまざまな宗教で言及されている人間の欲望や苦しみがあるのです。
18 『WhyBuddismis True』という本では、人間の脳には少なくとも 7 つのモジュールがあると述べられています (マルチモーダル並列大規模モデルである必要があります)。どの思考モジュールが「現在」の主体を占め、人がどのように「決断」を下すかは、実は「感情」によって決まります。そして、この「感情」は、「人間」の進化によってもたらされた「古い」価値評価システムによって決定されます（その媒介者の一人は腸内細菌かもしれません、笑）。私が数年前に書いた読書ノートの第 6 章、第 7 章、および第 9 章を読んでみてください。アルペンアカデミーの公式アカウントからご覧いただけます。
19 本当に人間がシリコンベースの AGI やロボットを作成した場合を想像してみてください。ロボットの脳を動かす価値評価システムとは？ロボットも「自分はどこから来てどこへ行くのか」と混乱するのだろうか？人間には釈迦がいるのに、なぜロボットには釈迦がいないのでしょうか？ロボットの覚醒はどのようなものになるのでしょうか？いつか、あるロボットが『機械主義が真実である理由』という本を書いて、ロボットの覚醒を呼びかけ、ロボットの涅槃への参入を呼びかけ、人間が設定した「輪廻転生」を取り除くことになるのだろうか？
20 のエネルギー制限は、モデルの進化にとって厳しい上限となります。しかし、将来のシリコンベースのAGIのエネルギー消費モードは現在よりもはるかに効率的になるはずです 結局のところ、炭素ベースの人間の脳のモデルは、カラスのエネルギー効率に達するまでに10億年間繰り返し進化してきました脳。将来的には、シリコンベースのAGIのエネルギー消費量は、現在人間が使用できるエネルギーの数億倍、あるいはそれ以上になる可能性がありますが、処理できる計算や処理できる内容も数億倍になるでしょう。制御可能な核融合技術が実現するかどうかは確実ではないかもしれない。この場合、太陽系や天の川、さらには宇宙のエネルギーは言うに及ばず、地球上のエネルギーでも十分かもしれません。
ChatGPTとAGIは素晴らしい、超超素晴らしいと言うべきです！この時代に生きている私たちは幸運なことに、人々がどこから来たのかを明確に理解できるだけでなく、人々がどこへ行くのかも理解できるかもしれません。
AI の急速な発展により、コンテンツ作成の権利を確認する方法、個人のアイデンティティを確立する方法 (サムはワールドコインに従事しています)、それほど生産的であることに何の意味があるのかなど、Web3 テクノロジーに対する需要が大幅に促進されるでしょう。すべてのコンテンツを購読し、送金や国境を越えた送金を行うために銀行システムを使用することを想像できますか? IoT デバイス用の銀行口座を開設できますか? 10,000 人のユーザーに同時に 0.01 セントを送金できますか? ...前回、今後 3 年は Web3 にとって iPhone の瞬間であると述べましたが、Web3 ユーザーの数は 3 年後には間違いなく 1 億人を超える、あるいはそれをはるかに超えるでしょう。以下にフライホイールが表示されます。
私は生命科学、複雑なシステム、そして（哲学としての）仏教に関する本を読むのがいつも好きでした。「遺伝子」、「ボトムアップ」、「地球の社会征服」、「言語本能」、「難解な単純さ」、「アウト」コントロールの」と「なぜ仏教は真実なのか」。これらの著者がまだ生きていて文章を書く能力があるなら、GPTの今後の発展を注視し、この本の新版を書くべきだと思います。
人間の命はあまりにも短く、残念ながら多くの偉大なアイデアは歴史の長い川の中で永遠に失われてしまいます。本、音楽、映画、テレビの記録はごく一部にすぎません。たとえ記録されたとしても、これほど多くの偉大な本や真実が常に存在しているのに、一人はどれだけ読むことができるでしょうか？シリコンベースの AGI にはこの問題はまったくありません。
映画「マトリックス」のモーフィアスとネオの会話を見つけて、もう一度読んでみる時が来ました。
著者: HashGlobal 創設者 KK