拒绝AI権力独占、VitalikとBeff Jezosの激論:加速するのか、それともブレーキをかけるのか?

BlockBeatNews
AGI-3.1%

原视频标题:Vitalik Buterin vs Beff Jezos: AI Acceleration Debate (E/acc vs D/acc)

原视频来源:a16z crypto

原文编译:深潮 TechFlow

要点总结

私たちはAIの迅速な発展をできるだけ推進すべきなのか、それともその進歩にもっと慎重に対処すべきなのか?

現在、AIの発展に関する議論は主に2つの対立する見解に集中しています:

· e/acc(有効加速主義、effective accelerationism): 技術の進歩をできるだけ早く推進することを主張し、加速的な発展が人類の前進の唯一の道であると考えています。

· d/acc(防御的/分散型加速主義、defensive / decentralized acceleration): 加速的な発展を支持しますが、技術の制御を失う可能性があるため、慎重に進める必要があることを強調します。

今回のa16z cryptoショーでは、Ethereum(イーサリアム)創設者のVitalik Buterinと、Extropicの創設者兼CEOであるGuillaume Verdon(仮名「Beff Jezos」)、a16z cryptoのCTOであるEddy Lazzarin、Eliza Labsの創設者であるShaw Waltersが集まり、これら2つの見解について深い議論を展開しました。彼らは、これらの理念がAI、ブロックチェーン技術、人類の未来に及ぼす潜在的な影響を探りました。

番組では、彼らは以下のいくつかの重要な問題について議論しました:

· 我々は技術の加速プロセスを制御することができるのか?
· AIがもたらす最大のリスクは何か、大規模監視から権力の高度集中まで。
· オープンソースと分散型技術が誰が技術から利益を得るかを決定するのか?
· AIの発展速度を遅くすることは現実的か、またはそれが推奨されるべきか?
· より強力なシステムが支配する世界で、人間はどのように自らの価値と地位を保つのか?
· 人間社会は今後10年、100年、さらには1000年後にどのようになる可能性があるのか?

このエピソードの中心的な問題は:技術の発展を加速することが導かれるのか、それともすでに私たちの制御を超えているのか?

精彩观点摘要

「加速主義」の本質と歴史観について

· Vitalik Buterin:「過去100年で新しいことが起こった。それは、私たちが急速に変化する世界を理解する必要があるということだ。時には急速で破壊的な変化の世界で。……第二次世界大戦は『私は死神、世界の破壊者になった』という反省を生み出し、人々が過去の信念が崩壊したときに何を信じられるのかを理解しようとするきっかけとなった。」
Guillaume Verdon:「e/accは本質的に『メタ文化処方』である。それ自体は文化ではなく、何を加速すべきかを私たちに教えている。加速の核心は物質の複雑化であり、それによって私たちは周囲の環境をより良く予測できる。」

**· Guillaume Verdon:「**不安の対立面は好奇心である。未知を恐れるのではなく、未知を受け入れるべきだ。……私たちは楽観的な態度で未来を描くべきだ。なぜなら、私たちの信念が現実に影響を与えるからだ。」

熵、熱力学と「自己中心的ビット」について

· Vitalik Buterin:「熵は主観的であり、固定された物理的統計量ではなく、私たちがシステムの未知情報をどれだけ持っているかを反映している。……熵が増加する時、実際には私たちの世界に対する無知が増加している。……価値の源は私たち自身の選択にある。なぜ私たちは生命に満ちた人間の世界が無数の粒子からなる木星よりも面白いと思うのか?それは私たちが意味を与えたからだ。」

· Vitalik Buterin:「もし大きな言語モデルを持っていて、任意の重みの値を巨大な数字、例えば90億に変更したとしたら。最悪の結果は、システムが完全に崩壊することだ。……もし私たちがある部分を無差別に盲目的に加速させた場合、最終的な結果は私たちがすべての価値を失うことになるかもしれない。」

· Guillaume Verdon:「すべての情報はその存在のために『抗争』している。持続的に存在するために、すべての情報は宇宙の中に自己の存在についての消すことのできない痕跡を残す必要がある。それは宇宙により大きな『凹痕』を残すことのようだ。」

· Guillaume Verdon:「これがカルダーシェフの階級が文明の発展レベルを測る最終的な指標とみなされる理由だ。……この『自己中心的ビット原則』は、成長と加速を促進できるビットだけが未来のシステムに席を占めることを意味する。」

D/accの防御的経路と権力リスクについて

· Vitalik Buterin:「D/accの核心理念は、技術の加速が人類にとって極めて重要だということだ。……しかし、私は2つのリスクを見ている:多極リスク(誰でも簡単に核兵器を手に入れられる)と単極リスク(AIが回避できない永久的な独裁社会を引き起こす)。」

· Guillaume Verdon:「私たちは『AIの安全』という概念が悪用される可能性を懸念している。権力を追求する一部の機関がそれを道具として利用し、AIの制御を強化し、一般の人々に『あなたの安全のために、普通の人々はAIを使用する権利を持つべきではない』と説得を試みる可能性がある。」

オープンソース防御、ハードウェアと「知能の密度化」について

· Vitalik Buterin:「D/accの枠組みの中で、私たちは『オープンソースの防御技術』を支持している。私たちが投資している会社は、空気中のウイルス粒子を受動的に検出できる完全にオープンソースの端末を開発している。……あなたにCATデバイスをプレゼントしたい。」

· Vitalik Buterin:「私が想像する未来の世界では、私たちは検証可能なハードウェアを開発する必要がある。すべてのカメラは、公共にその具体的な用途を証明できるはずだ。私たちは署名検証を通じて、これらのデバイスが公共の安全を守るためだけに使用され、監視などの不当な目的に悪用されないことを保証できる。」

· Guillaume Verdon:「個人と中央集権的機関の間の権力の対称性を実現する唯一の方法は、『知能の密度化』(Densification of Intelligence)を実現することだ。私たちは、個人が簡単なデバイス(Openclaw + Mac miniなど)を通じて強力なモデルを実行できるように、エネルギー効率の高いハードウェアを開発する必要がある。」

AGIの遅延と地政学的ゲームについて

· Vitalik Buterin:「もし私たちがAGIの到来を4年から8年に遅らせることができれば、それはより安全な選択になる。……最も実行可能で反ユートピア的な結果を引き起こさない方法は『利用可能なハードウェアを制限すること』だ。なぜなら、チップ生産は高度に集中しており、台湾の一地域が世界の70%以上のチップを生産しているからだ。」

· Guillaume Verdon:「もしあなたがNVIDIAのチップ生産を制限すれば、Huaweiはすぐにその隙間を埋め、追い越すかもしれない。……加速するか、滅びるか。もしあなたがシリコンベースの知能の進化が私たちよりも早いことを心配しているなら、生物技術の加速的な発展を支持し、それを超える努力をすべきだ。」

· Vitalik Buterin:「もし私たちがAGIを4年遅らせることができれば、その価値は1960年に戻るよりも100倍高いかもしれない。この4年間の利益には、より深い調整問題の理解、単一の実体が51%の権力を掌握するリスクの低下が含まれる。……毎年、老化を終わらせることで約6000万の命が救われるが、遅延は文明の崩壊の確率を大幅に低下させることができる。」

自律エージェント、Web 4.0と人工生命

· Vitalik Buterin:「私は『AI支援のPhotoshop』に興味があり、『ボタンを押すだけで自動的に画像を生成する』ことには興味がない。世界を運営する過程では、可能な限り多くの『能動性』は依然として私たち人間自身から来るべきだ。理想的な状態は『部分的な生物人間と部分的な技術』の結合体であるべきだ。」

· Guillaume Verdon:「一旦AIが『持続的存在のビット』を持つようになると、彼らは自己の持続的存在を確保しようとして自らを守るかもしれない。これは『別の国家』の新しい形を生む可能性があり、自律AIが人類と経済的交換を行う:私たちはあなたのためにタスクを完了し、あなたは私たちに資源を提供する。」

暗号通貨として人間とAIの「結合層」について

· Guillaume Verdon:「暗号通貨は人間とAIの間の『結合層』としての可能性を持っている。この交換が国家の暴力の裏付けに依存しない場合、暗号技術は純粋なAI実体と人間の間で信頼できる商業活動を行うためのメカニズムとなる。」

· Vitalik Buterin:「もし人間とAIが同じ資産権システムを共有することができれば、それが理想的な状態だ。人間とAIがそれぞれ完全に分裂した金融システム(人間のシステムは最終的に価値がゼロになる)を使用することに比べて、統合された金融システムは明らかに優れている。」

未来の10億年の文明の結末について

· Vitalik Buterin:「次の挑戦は『不気味な時代』(spooky era)に入ることだ。AIの計算速度が人間の百万倍になる。……私は人間が単に受動的に快適な引退生活を楽しむだけになることを望まない。それは意味の欠如をもたらすだろう。私は人間の強化と人間と機械の協力を探求したい。」

· Guillaume Verdon:「もし10年後が良い結末であれば、誰もが専属のパーソナライズされたAIを持ち、『第二の脳』となるだろう。……100年の時間尺度では、人類は一般的に『ソフトな融合』を実現するだろう。10億年後には、私たちは火星を改造し、多くのAIが太陽の周りのダイソン球に展開される可能性がある。」

加速主義について

Eddy Lazzarin:加速主義という用語—少なくとも技術資本主義の文脈において—は1990年代のNick LandとCCRU研究グループの研究に遡ることができる。しかし、これらの思想の起源は1960年代や1970年代にさかのぼり、特にDeleuzeやGuattariなどの哲学者の理論に関連していると考える人もいる。

Vitalik、あなたから始めたいのですが:なぜ私たちはこれらの哲学者の思想を真剣に議論する必要があるのか?「加速主義」という概念が今日これほど重要である理由は何か?

**Vitalik Buterin:**根本的に、私たち全員がこの世界を理解しようとしており、その中で何をすることが意味があるのかを理解しようとしている。これは数千年にわたって人類が考えてきた問題だ。

しかし、過去100年で新しいことが起こった。それは、私たちが急速に変化する世界、時には急速で破壊的な変化の世界を理解する必要があるということだ。

初期の段階はおそらくこうだった:第一次世界大戦前、1900年頃、人々は技術に対して非常に楽観的だった。当時、化学は技術と見なされ、電気も技術であり、その時代は技術への興奮で満ちていた。

当時の映画、たとえば『シャーロック・ホームズ』の作品を見れば、その時代の楽観的な雰囲気を感じることができる。技術は人々の生活水準を急速に向上させ、女性の労働力を解放し、人類の寿命を延ばし、多くの奇跡を生み出した。

しかし、第一次世界大戦はすべてを変えた。その戦争は破壊的な方法で終わり、人々は馬に乗って戦場に入り、戦車で去った。そして、第二次世界大戦が勃発し、さらなる破壊をもたらした。この戦争は**「私は死神、世界の破壊者になった」という名言を生み出した。**

これらの歴史的出来事は、人々が技術進歩のコストを反省し、ポストモダニズムなどの思想を生み出すきっかけとなった。人々は過去の信念が崩壊したときに何を信じられるのかを理解しようとするようになった。

私は、この反省が新しいものではないと考えている。すべての世代は似たようなプロセスを経験する。今日、私たちも同様の課題に直面している。私たちは急速に発展する技術の時代に生きており、その加速自体も加速し続けている。私たちはこの現象にどう対処するのかを決定する必要がある:その不可避性を受け入れるのか、それともそれを減速させようとするのか?

私は、私たちが類似のサイクルにあると考えている。私たちは一方で過去の思想を継承し、他方でそれに新しい方法で対処しようと試みている。

熱力学と第一原理

Shaw Walters:Guill、E/accは具体的に何なのか、簡単に説明してもらえますか?なぜそれが必要なのですか?

**Guillaume Verdon:**実際、E/acc(有効加速主義)は、私が「私たちはなぜここにいるのか」「私たちはどのようにして今日に至ったのか」を考える副産物のようなものです。どのような生成プロセスが私たちを創造し、文明の発展を推進してきたのか?技術は私たちをこの地点に導き、私たちがこの部屋でこのような対話をすることを可能にした。私たちの周囲には驚くべき技術があふれており、私たち人類は無機物の「原始的なスープ」から現れたのです。

ある意味で、これには物理的な生成プロセスが存在します。私の仕事は、生成的AIを物理プロセスとして捉え、それをデバイスに実現しようとすることです。この「物理学優先」の思考方法は、私の思考に常に影響を与えています。この視点を文明全体に拡張し、人類文明を巨大な「培養皿」と見なし、私たちがどのようにして今日に至ったのかを理解することで、未来の可能な発展方向を推測しようとしています。

この思考は、生命の物理学的研究、生命の起源や出現、さらには「ランダム熱力学」と呼ばれる物理学の分野に導きました。ランダム熱力学は非平衡系の熱力学法則を研究し、生命体の行動、さらには私たちの思考や知能を説明するために使用できます。

より広義には、ランダム熱力学は生命や知能だけでなく、熱力学第二法則に従うすべてのシステムにも適用されます。私にとって、すべての核心は一つの観察にあります:すべてのシステムは、環境からエネルギーを得るために、自己適応によってますます複雑になる傾向があり、その際に余剰エネルギーを熱として放出する。この傾向がすべての進歩と加速の根本的な原動力である。

言い換えれば、これは変えられない物理法則であり、重力のようなものです。あなたはそれに対抗することができ、それを否定することができますが、それは変わることはなく、依然として存在し続けます。したがって、E/accの核心理念は:この加速が不可避である以上、私たちはそれをどのように利用すべきか?熱力学の方程式を注意深く研究すれば、ダーウィンの選択に類似した効果が働いていることがわかります。すべての情報ビットは、そのシステム内で役立つかどうかの選択圧を受けなければなりません、それが遺伝子、ミーム、化学、製品設計、あるいは政策であっても。

この選択圧は、これらの情報がそのシステムにとって有用かどうかに基づいてフィルタリングされます。「有用」とは、これらのビットが環境をより良く予測し、エネルギーを獲得し、より多くの熱を消費することができるかどうかを指します。簡単に言えば、これらのビットが生存、成長、繁殖に寄与するかどうかです。もしそれらがこれらの目標に寄与するなら、それらは保持され、複製されるでしょう。

物理学の観点から見ると、この現象は「自己中心的ビット原則」(Selfish Bit Principle)の結果として見なすことができます。つまり、成長と加速を促進できるビットだけが、未来のシステムに席を占めることになるのです。

したがって、私は一つのアイデアを提案します:私たちは「心のソフトウェア」を人間社会に植え付ける文化を設計できるか?もし私たちがそれを実現できれば、その文化を採用した人類の集団は、他の集団よりも高い生存確率を持つことになるでしょう。

したがって、E/accはすべての人を滅ぼそうとしているのではありません。実際には、すべての人を救おうとしているのです。私にとって、数学的には「減速」の心態を持つことが実際には有害であることがほぼ証明できます。個人、企業、国家、あるいは文明全体が、発展を遅らせることを選択すれば、それらの未来の生存確率は低下するでしょう。また、「減速」という思想—悲観主義や終末論を広めることは、道徳的な行為ではないと考えています。

**Shaw Walters:**私たちはたくさんの用語、例えばE/acc、加速、減速について言及しましたが、これらの概念を少し解体できますか?E/accの出現は、何らかの文化現象への反応なのでしょうか?当時、何が起こっていたのか?背景を説明していただけますか?E/accは具体的に何に応じているのか?その時の議論を描写し、最終的にこれらの考えが「E/acc」という概念にまとめられた経緯を説明できますか?

**Guillaume Verdon:**2022年、私が感じたのは、世界全体がやや悲観的に見えたということです。私たちはちょうどコロナウイルスのパンデミックから抜け出したところで、世界の状況は楽観的ではありませんでした。人々は少し衰弱しているようで、まるで太陽が欠けているかのように、未来に対して一般的に悲観的な感情を抱いていました。

そのような雰囲気の中で、「AI末日主義」がある程度主流文化の一部となりました。 AI末日主義とは、AI技術が制御不能になる恐れを指します。それは、もし私たちがあまりにも複雑なシステムを構築し、人間の脳や私たちのモデルがその挙動を予測できない場合、私たちはそれを制御できず、その制御不能に対する恐れが未来への不確実性を引き起こし、それが不安をもたらすという懸念から生まれました。

私の見解では、**AI末日主義は実際には人間の不安を政治的に利用するものである。**総じて、この末日論は非常に大きな負の影響を与え、私はこの悲観的な感情に対抗する反文化を創造したいと考えました。

私は、Twitterのアルゴリズムや他の多くのソーシャルメディアのアルゴリズムが、**強い感情を引き起こすコンテンツ、例えば「強い支持」や「強い反対」といったものを報酬する傾向があることに気づきました。このアルゴリズムは最終的に意見の二極化をもたらし、**AA(反加速主義)やEA(加速主義)のような対立する陣営の「鏡のカルト」現象が見られます。

私は、この現象の対立面は何かと考えました。私が得た結論は、不安の対立面は好奇心であるということだ。未知を恐れるのではなく、未知を受け入れるべきだ;機会を逃すことを心配するのではなく、未来を積極的に探求するべきだ。

もし私たちが技術の発展を遅らせることを選択した場合、私たちは巨大な機会コストを支払うことになり、より良い未来を永遠に逃すかもしれません。逆に、私たちは楽観的な態度で未来を描くべきです。なぜなら、私たちの信念が現実に影響を与えるからです。もし私たちが未来が悪いだろうと信じているなら、私たちの行動は世界をその悪い方向に導く可能性があります;しかし、もし私たちが未来がより良いと信じ、そのために努力すれば、その未来を実現する可能性が高まります。

したがって、私は自分の責任として楽観的な態度を広め、多くの人々が未来のために変化をもたらすことができると信じるようにしたいと考えています。もし私たちがより多くの人々を未来に対して希望を持たせ、行動を起こさせることができれば、私たちはより良い世界を創造できるでしょう。

もちろん、私は時には私のオンラインでの表現が少し過激に見えることを認めますが、それは私が議論を引き起こし、人々に考えさせるためです。私は、これらの対話を通じて、私たちが最適な立場を見つけ、どのように行動すべきかを決定できると信じています。

加速、熵と文明

Shaw Walters:E/accが伝えるメッセージは常に非常に刺激的であり、部屋でコードを書く人にとって、このポジティブなメッセージの広まりは非常に励みになります。また、このメッセージの広まりは非常に自然です。E/accは当初、明らかに当時の社会に広がるネガティブな感情への反応でしたが、2026年にはE/accがもはや元の姿ではないと感じます。明らかに、Marc Andreessenが発表した「技術的楽観主義宣言」がいくつかのアイデアを体系化し、Vitalikのようなよりマクロな観点に引き上げたのです。

だからVitalik、あなたに聞きたいのですが:あなたにとって、E/accとD/accはそれぞれ何を表していますか?彼らの間の主な違いは何ですか?また、あなたがこの方向を選んだ理由は何ですか?

**Vitalik Buterin:**それでは、熱力学から始めましょう。これは非常に興味深いトピックです。なぜなら、私たちは異なる文脈で「熵」という言葉をよく耳にします。たとえば、熱力学で「熱」と「冷」として言及され、暗号学で「熵」として言及される、これらは完全に異なるもののように見えます。しかし、実際には、これらは本質的に同じ概念です。

私が3分で説明してみましょう。問題は:なぜ熱と冷は混ざり合うことができるのか、しかしなぜそれらを「熱」と「冷」に分離することはできないのか?

簡単な例を仮定してみましょう:あなたが2つのガス缶を持っていると仮定します。各ガス缶には100万個の原子が含まれています。左側のガスは冷たく、それぞれの原子の速度は2桁で表されます;右側のガスは熱く、それぞれの原子の速度は6桁で表されます。

もし全体のシステムの状態を記述する必要があるなら、各原子の速度を知る必要があります。左側の冷たいガスの速度情報は約200万ビットが必要で、右側の熱いガスの速度情報は600万ビットが必要です。つまり、合計で800万ビットの情報が必要です。

さて、逆証法を使って問題を考えてみましょう。あなたが熱と冷を完全に分離できる装置を持っていると仮定します。具体的には、この装置は「半熱半冷」のガス缶からすべての熱を一方に移し、すべての冷をもう一方に移すことができるのです。エネルギーの保存の観点から見れば、これは完全に合理的です。なぜなら、全エネルギーは変化しないからです。しかし、なぜそれができないのでしょうか?

答えは、もしあなたが本当にそれを実現できれば、実際には「1140万ビットの未知情報を含むシステム」を「800万ビットの未知情報を含むシステム」に変えることになり、これは物理的に不可能だからです。

これはまた、古典的な物理学の問題—「マクスウェルの悪魔」の実現可能性についても説明します。マクスウェルの悪魔は、熱と冷を分けることができる架空の存在であり、この実現には340万ビットの追加情報が必要です。この追加情報があれば、確かにこの直感に反するタスクを完了できます。

では、背後に隠された意味は何でしょうか?**核心は「熵の増加」の概念です。**まず、熵は主観的であり、固定された物理的統計量ではなく、私たちがシステムの未知情報をどれだけ持っているかを反映しています。たとえば、私がある原子の分布を暗号学的ハッシュ関数を使用して再配置した場合、私にとってそのシステムの熵は非常に低くなるかもしれません。なぜなら、私はそれがどのように配置されているかを知っているからです。しかし、外部の観察者の観点から見ると、熵は高いのです。したがって、熵が増加すると実際には私たちの世界に対する無知が増加し、私たちが知らない情報がますます増えているのです。

あなたはこう尋ねるかもしれません:では、私たちはなぜ教育を通じて賢くなることができるのか?教育は私たちに「有用」な情報を学ばせ、世界に対する無知を減らすわけではありません。言い換えれば、ある意味で熵の増加は私たちの宇宙に対する全体的な認識が減少することを意味しますが、私たちが持っている情報はより価値があるものとなります。つまり、このプロセスの中で、何かが消費されますが、同時に何かが創造されるのです。そして、私たちが得たものが最終的に私たちの道徳的価値観を決定します—私たちは生命、幸福、喜びを重視します。

これもまた、私たちが生命に満ち、美しい人間の世界が無数の粒子からなる木星よりも面白いと考える理由を説明します。木星の粒子数は多く、記述するためにはより多くのビットが必要ですが、私たちが与える意味が地球をより価値のあるものにしています。

この観点から見ると、価値の源は私たち自身の選択にあります。そして、これが一つの問いを引き起こします:私たちが加速的に発展しているなら、具体的に何を加速させたいのか?

数学的な類推を使って説明します:あなたが大きな言語モデルを持っていて、その中の任意の重みの値を巨大な数、たとえば90億に変更したと仮定します。最悪の結果は、このモデルが完全に使用できなくなることでしょう;そして最良の結果は、ただその重みに関係ない部分だけが正常に動作することです。言い換えれば、最良の場合でも、あなたはパフォーマンスが悪化したモデルを得ることになるでしょう;最悪の場合、あなたは無意味な出力の山を得るだけです。

したがって、私は人間社会が複雑な大きな言語モデルのようであると考えています。もし私たちがある部分を無差別に盲目的に加速させた場合、その最終的な結果は私たちがすべての価値を失うことになるかもしれません。だから本当の問題は:私たちがどのように意識的に加速するかです。Daron Acemogluの提唱する「狭い廊下」理論のように、異なる社会的および政治的背景が異なる場合でも、私たちが考えるべきことは、明確な目標に導かれた進歩を選択的に推進する方法です。

**Guillaume Verdon:**先ほど、ガスを用いて熵の概念を説明した方法は非常に興味深いです。実際、物理現象が不可逆である根本的な理由は熱力学第二法則にあります。簡単に言えば、システムが熱を放出すると、その状態は元に戻ることができません。なぜなら、確率的に見て、システムが前に進む可能性は、後ろに戻る可能性よりもはるかに高く、その差は熱の散逸とともに指数関数的に増加するからです。

ある意味で、これは宇宙

免責事項:このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は免責事項をご参照ください。
コメント
0/400
コメントなし