作者：Sam Altman翻訳：深潮 TechFlow深潮ガイド：深夜3時45分に誰かがSam Altmanの家に火炎瓶を投げつけた。彼はめったに公開しない家族写真を公開し、次の誰かが手を出さないよう願った。この文章は攻撃を非難するだけでなく、彼のAIに対する信念を初めて完全に語ったものだ：AIは民主化されるべきであり、少数の研究所だけが人類の未来を決めるべきではない。そして、「AGIを見たら戻れない」という誘惑がこの分野にシェイクスピア的な劇的対立をもたらしている。これは私の家族の写真です。私は彼らを何よりも愛しています。私は画像に力を持たせたい。通常、私たちはかなりのプライバシーを保つが、この場合は一枚の写真を共有し、次の誰かが私たちの家に火炎瓶を投げつけるのを思いとどまらせる助けになればと思う。彼らが私をどう見るかに関わらず。昨夜、最初の人がそうした。午前3時45分。幸いにも、それは家から跳ね返り、誰も怪我をしなかった。言葉にも力がある。数日前に私について扇動的な記事が出た。昨日、ある人が私に言った。それは、私の記事が人々のAIに対する極度の不安の最中に現れたことで、私の立場をより危険にしていると。私はその時は気にしなかった。今、深夜に目が覚めて腹が立ち、言葉と物語の力を過小評価していたことに気づいた。今こそ、いくつかのことについて話す良い機会だ。まず、私の信念。すべての人の繁栄のために努力し、すべての人に力を与え、科学技術を推進することは、私にとって道徳的義務だ。AIは人類の能力と潜在力を拡張する最も強力なツールになるだろう。このツールの需要にはほぼ上限がなく、人々は信じられないことを成し遂げるだろう。世界は大量のAIを持つべきであり、その実現方法を見つけなければならない。すべてが順調に進むわけではない。AIへの恐怖と不安は合理的だ；私たちは長い間、もしかすると史上最大の社会変革を目の当たりにしている。安全性を確保する必要がある。それは単にモデルの整合性だけではなく、新たな脅威に対応するための社会全体の反応を必要とする。これには、新しい政策や経済の困難な移行期を乗り越えるための支援も含まれる。より良い未来に向かうために。AIは民主化されるべきだ；権力は過度に集中してはならない。未来のコントロールはすべての人とその機関に属する。AIは個人に力を与える必要があり、私たちは集団で未来と新しいルールを決める必要がある。少数のAI研究所だけが私たちの未来の形態に関する最も重要な決定を下すのは正しくないと思う。適応力は極めて重要だ。私たちは皆、非常に速いペースで新しいことを学んでいる；私たちの信念の中には正しいものもあれば間違っているものもある。時には、技術の進歩や社会の変化に伴い、考えを素早く変える必要がある。スーパーインテリジェンスの影響は誰も理解していないが、その影響は巨大だ。次に、個人的な反省。OpenAIでの最初の10年を振り返ると、多くの誇りに思うことと、多くの誤りを指摘できる。私は、Elonとの裁判を目前に控え、彼がOpenAIを一方的に支配しようとしたことに対して、私がどれだけ抵抗し、拒否したかを思い出す。それに誇りを感じているし、当時の狭い道を歩んだことに誇りを持っている。それがOpenAIの存続と、その後のすべての成果を可能にした。私は、対立を避ける自分の姿勢に誇りを持っている。それは私とOpenAIに大きな痛みをもたらした。私は、元理事会との衝突を適切に処理できなかったことに誇りを持てない。それは会社に大きな混乱をもたらした。OpenAIの狂った軌跡の中で、私は多くの他の誤りも犯した。私は欠陥のある人間であり、非常に複雑な状況の中心にいる。毎年少しずつ良くなろうとし、常に使命のために働いている。私たちは、AIのリスクの大きさを最初から知っていたし、善意の人々の間の個人的な意見の違いが大きく拡大されることも理解していた。でも、これらの激しい衝突を実体験し、それを仲裁しなければならなかったことは別の話で、その代償は重い。傷つけた人々には申し訳なく思い、もっと早く学べるよう努力したい。また、OpenAIが今や主要なプラットフォームであり、小さなスタートアップではないことも理解している。私たちは今、より予測可能な運営を求められている。過去数年は非常に緊張し、混乱し、高圧的だった。しかし、最も誇りに思うのは、私たちが使命を実現しつつあることだ。最初はほとんど不可能に思えたことを克服し、非常に強力なAIを構築し、それを提供するための資本を蓄積し、製品会社とビジネスを築き、大規模に安全かつ堅実なサービスを提供する方法を見つけた。多くの企業は世界を変えると言うが、私たちは本当にやり遂げた。最後に、この業界についての考え。過去数年の個人的な経験と、なぜ私たちの分野の企業間にこれほど多くのシェイクスピア的劇があるのかについての見解は、これに集約される：「AGIを見たら、もう見えなくなることはできない。」それは本当に「権力の指輪」的な動態を持ち、人々を狂わせる。私はAGI自体が指輪だとは言わないが、「AGIをコントロールする者」になることの全体主義的哲学だ。私が考えつく唯一の解決策は、技術を広く共有し、誰も指輪を持たない状態に向かうことだ。そのための明らかな二つの方法は、個人に力を与えることと、民主的システムがコントロールを維持することだ。重要なのは、民主的プロセスが企業よりも強力であり続けることだ。法律や規範は変わるだろうが、私たちは民主的なプロセスの中で働かなければならない。それは混乱を伴い、私たちの望むより遅くなるかもしれないが。私たちは声と利害関係者の一部になりたいが、すべての権力を持つわけではない。私たちの業界に対する多くの批判は、この技術の非常に高いリスクに対する誠実な懸念から来ている。これは非常に合理的だ。私たちは善意の批判と議論を歓迎する。私は反技術的な感情に共感している。明らかに、技術は常にすべての人にとって良いわけではない。しかし、全体として、私は技術の進歩が未来を信じられないほど素晴らしいものにできると信じている。あなたの家族や私の家族のために。私たちがその議論を行うときは、言葉と戦略を控えめにし、より少ない家で、より少ない爆発を起こすよう努めるべきだ。比喩でも文字通りでも。
サム・アルトマンは自宅に火炎瓶が投げ込まれた後、次のように投稿しました：
「私は家族を愛しているし、AIはすべての人のものだと信じている」
作者：Sam Altman
翻訳：深潮 TechFlow
深潮ガイド：深夜3時45分に誰かがSam Altmanの家に火炎瓶を投げつけた。彼はめったに公開しない家族写真を公開し、次の誰かが手を出さないよう願った。この文章は攻撃を非難するだけでなく、彼のAIに対する信念を初めて完全に語ったものだ：AIは民主化されるべきであり、少数の研究所だけが人類の未来を決めるべきではない。そして、「AGIを見たら戻れない」という誘惑がこの分野にシェイクスピア的な劇的対立をもたらしている。
これは私の家族の写真です。私は彼らを何よりも愛しています。
私は画像に力を持たせたい。通常、私たちはかなりのプライバシーを保つが、この場合は一枚の写真を共有し、次の誰かが私たちの家に火炎瓶を投げつけるのを思いとどまらせる助けになればと思う。彼らが私をどう見るかに関わらず。
昨夜、最初の人がそうした。午前3時45分。幸いにも、それは家から跳ね返り、誰も怪我をしなかった。
言葉にも力がある。数日前に私について扇動的な記事が出た。昨日、ある人が私に言った。それは、私の記事が人々のAIに対する極度の不安の最中に現れたことで、私の立場をより危険にしていると。私はその時は気にしなかった。
今、深夜に目が覚めて腹が立ち、言葉と物語の力を過小評価していたことに気づいた。今こそ、いくつかのことについて話す良い機会だ。
まず、私の信念。
すべての人の繁栄のために努力し、すべての人に力を与え、科学技術を推進することは、私にとって道徳的義務だ。
AIは人類の能力と潜在力を拡張する最も強力なツールになるだろう。このツールの需要にはほぼ上限がなく、人々は信じられないことを成し遂げるだろう。世界は大量のAIを持つべきであり、その実現方法を見つけなければならない。
すべてが順調に進むわけではない。AIへの恐怖と不安は合理的だ；私たちは長い間、もしかすると史上最大の社会変革を目の当たりにしている。安全性を確保する必要がある。それは単にモデルの整合性だけではなく、新たな脅威に対応するための社会全体の反応を必要とする。これには、新しい政策や経済の困難な移行期を乗り越えるための支援も含まれる。より良い未来に向かうために。
AIは民主化されるべきだ；権力は過度に集中してはならない。未来のコントロールはすべての人とその機関に属する。AIは個人に力を与える必要があり、私たちは集団で未来と新しいルールを決める必要がある。少数のAI研究所だけが私たちの未来の形態に関する最も重要な決定を下すのは正しくないと思う。
適応力は極めて重要だ。私たちは皆、非常に速いペースで新しいことを学んでいる；私たちの信念の中には正しいものもあれば間違っているものもある。時には、技術の進歩や社会の変化に伴い、考えを素早く変える必要がある。スーパーインテリジェンスの影響は誰も理解していないが、その影響は巨大だ。
次に、個人的な反省。
OpenAIでの最初の10年を振り返ると、多くの誇りに思うことと、多くの誤りを指摘できる。
私は、Elonとの裁判を目前に控え、彼がOpenAIを一方的に支配しようとしたことに対して、私がどれだけ抵抗し、拒否したかを思い出す。それに誇りを感じているし、当時の狭い道を歩んだことに誇りを持っている。それがOpenAIの存続と、その後のすべての成果を可能にした。
私は、対立を避ける自分の姿勢に誇りを持っている。それは私とOpenAIに大きな痛みをもたらした。私は、元理事会との衝突を適切に処理できなかったことに誇りを持てない。それは会社に大きな混乱をもたらした。OpenAIの狂った軌跡の中で、私は多くの他の誤りも犯した。私は欠陥のある人間であり、非常に複雑な状況の中心にいる。毎年少しずつ良くなろうとし、常に使命のために働いている。私たちは、AIのリスクの大きさを最初から知っていたし、善意の人々の間の個人的な意見の違いが大きく拡大されることも理解していた。でも、これらの激しい衝突を実体験し、それを仲裁しなければならなかったことは別の話で、その代償は重い。傷つけた人々には申し訳なく思い、もっと早く学べるよう努力したい。
また、OpenAIが今や主要なプラットフォームであり、小さなスタートアップではないことも理解している。私たちは今、より予測可能な運営を求められている。過去数年は非常に緊張し、混乱し、高圧的だった。
しかし、最も誇りに思うのは、私たちが使命を実現しつつあることだ。最初はほとんど不可能に思えたことを克服し、非常に強力なAIを構築し、それを提供するための資本を蓄積し、製品会社とビジネスを築き、大規模に安全かつ堅実なサービスを提供する方法を見つけた。多くの企業は世界を変えると言うが、私たちは本当にやり遂げた。
最後に、この業界についての考え。
過去数年の個人的な経験と、なぜ私たちの分野の企業間にこれほど多くのシェイクスピア的劇があるのかについての見解は、これに集約される：「AGIを見たら、もう見えなくなることはできない。」それは本当に「権力の指輪」的な動態を持ち、人々を狂わせる。私はAGI自体が指輪だとは言わないが、「AGIをコントロールする者」になることの全体主義的哲学だ。
私が考えつく唯一の解決策は、技術を広く共有し、誰も指輪を持たない状態に向かうことだ。そのための明らかな二つの方法は、個人に力を与えることと、民主的システムがコントロールを維持することだ。
重要なのは、民主的プロセスが企業よりも強力であり続けることだ。法律や規範は変わるだろうが、私たちは民主的なプロセスの中で働かなければならない。それは混乱を伴い、私たちの望むより遅くなるかもしれないが。私たちは声と利害関係者の一部になりたいが、すべての権力を持つわけではない。
私たちの業界に対する多くの批判は、この技術の非常に高いリスクに対する誠実な懸念から来ている。これは非常に合理的だ。私たちは善意の批判と議論を歓迎する。私は反技術的な感情に共感している。明らかに、技術は常にすべての人にとって良いわけではない。しかし、全体として、私は技術の進歩が未来を信じられないほど素晴らしいものにできると信じている。あなたの家族や私の家族のために。
私たちがその議論を行うときは、言葉と戦略を控えめにし、より少ない家で、より少ない爆発を起こすよう努めるべきだ。比喩でも文字通りでも。