Sam Altman setelah dilempar botol berisi api di rumahnya: Saya mencintai keluarga saya, dan saya percaya AI milik semua orang

Penulis: Sam Altman

Terjemahan: Deep潮 TechFlow

Deep潮 Pengantar: Ada seseorang yang melemparkan botol api ke rumah Sam Altman pukul 3:45 pagi. Dia jarang sekali mempublikasikan foto keluarga lengkap, berharap ini bisa membuat orang berikutnya berhenti. Artikel ini bukan hanya mengadukan serangan tersebut, tetapi juga pertama kali secara lengkap menguraikan keyakinan saya tentang AI: AI harus didemokratisasi, laboratorium kecil tidak boleh menentukan masa depan manusia, dan godaan “melihat AGI membuat kita tidak bisa kembali” membuat bidang ini penuh konflik dramatis ala Shakespeare.

Ini foto keluargaku. Aku mencintai mereka lebih dari segalanya.

Aku berharap gambar ini memiliki kekuatan. Biasanya kami menjaga privasi yang cukup, tetapi dalam kasus ini aku membagikan sebuah foto, berharap bisa mencegah orang berikutnya untuk melempar botol api ke rumah kami, apapun pandangan mereka terhadapku.

Orang pertama melakukannya tadi malam, pukul 3:45 pagi. Untungnya, botol itu memantul dari rumah, tidak ada yang terluka.

Teks juga memiliki kekuatan. Beberapa hari yang lalu ada sebuah artikel provokatif tentang aku. Kemarin seseorang mengatakan kepada saya bahwa mereka merasa artikel itu muncul saat orang-orang sangat cemas tentang AI, membuat posisi saya semakin berbahaya. Saat itu saya tidak terlalu peduli.

Sekarang saya terbangun tengah malam dengan marah, dan saya menyadari bahwa saya meremehkan kekuatan kata-kata dan narasi. Ini tampaknya saat yang tepat untuk membicarakan beberapa hal.

Pertama, keyakinan saya.

Bagi kemakmuran semua orang, memberdayakan semua orang, mendorong ilmu pengetahuan dan teknologi, ini adalah kewajiban moral bagi saya.

AI akan menjadi alat paling kuat untuk memperluas kemampuan dan potensi manusia. Permintaan terhadap alat ini hampir tidak terbatas, orang akan menggunakannya untuk melakukan hal-hal luar biasa. Dunia harus memiliki banyak AI, dan kita harus mencari tahu bagaimana mewujudkannya.

Tidak semuanya akan berjalan lancar. Ketakutan dan kecemasan terhadap AI adalah wajar; kita sedang menyaksikan perubahan terbesar dalam masyarakat dalam waktu yang lama, mungkin sepanjang sejarah. Kita harus memastikan keamanan, ini bukan hanya tentang menyelaraskan sebuah model—kita sangat membutuhkan respons dari seluruh masyarakat untuk menghadapi ancaman baru. Ini termasuk kebijakan baru untuk membantu melewati masa transisi ekonomi yang sulit, menuju masa depan yang lebih baik.

AI harus didemokratisasi; kekuasaan tidak boleh terlalu terkonsentrasi. Kendali atas masa depan harus milik semua orang dan institusi mereka. AI perlu memberdayakan individu, kita harus secara kolektif memutuskan masa depan dan aturan baru kita. Saya tidak percaya bahwa beberapa laboratorium AI kecil yang membuat keputusan paling penting tentang bentuk masa depan kita adalah hal yang benar.

Kemampuan beradaptasi sangat penting. Kita semua belajar hal-hal baru dengan sangat cepat; beberapa keyakinan kita akan benar, beberapa salah, kadang kita perlu mengubah pandangan dengan cepat seiring perkembangan teknologi dan evolusi masyarakat. Belum ada yang memahami dampak superintelligence, tetapi dampaknya akan besar.

Kedua, refleksi pribadi.

Ketika saya meninjau kembali sepuluh tahun pertama saya di OpenAI, saya bisa menyebutkan banyak hal yang saya banggakan dan juga banyak kesalahan.

Saya memikirkan tentang pengadilan yang akan datang dengan Elon, dan mengingat betapa saya bersikeras menolak setuju dengan keinginannya untuk mengendalikan OpenAI secara sepihak. Saya bangga akan hal itu, bangga akan jalan sempit yang kami lalui saat itu, yang memungkinkan OpenAI tetap ada, dan semua pencapaian berikutnya.

Saya bangga karena tidak menghindari konflik, meskipun itu membawa penderitaan besar bagi saya dan OpenAI. Saya tidak bangga karena cara saya menangani konflik dengan dewan direksi sebelumnya, yang menyebabkan kekacauan besar di perusahaan. Dalam perjalanan gila OpenAI, saya melakukan banyak kesalahan lain; saya adalah manusia yang penuh kekurangan, berada di tengah situasi yang sangat kompleks, berusaha menjadi lebih baik setiap tahun, selalu bekerja demi misi. Sejak awal kami tahu betapa besar risiko AI, dan perbedaan pribadi antara orang-orang baik yang saya pedulikan bisa sangat diperbesar. Tapi mengalami konflik yang intens dan harus sering menjadi arbiter adalah hal yang berbeda, dan biayanya cukup besar. Saya menyesal telah menyakiti orang-orang yang saya lukai, dan berharap saya bisa belajar lebih cepat.

Saya juga sangat sadar bahwa OpenAI sekarang adalah platform utama, bukan startup kecil, dan kita harus beroperasi dengan cara yang lebih dapat diprediksi. Beberapa tahun terakhir sangat tegang, kacau, dan penuh tekanan.

Namun, yang paling saya banggakan adalah bahwa kami sedang mewujudkan misi kami, yang pada awalnya tampak sangat tidak mungkin. Mengatasi semua tantangan, kami berhasil membangun AI yang sangat kuat, mengumpulkan cukup modal untuk membangun infrastruktur pengiriman, membangun perusahaan produk dan bisnis, mengembangkan layanan yang cukup aman dan stabil secara skala besar, dan banyak lagi. Banyak perusahaan mengklaim mereka ingin mengubah dunia; kami benar-benar melakukannya.

Ketiga, beberapa pemikiran tentang industri ini.

Dari pengalaman pribadi saya selama beberapa tahun terakhir, dan pandangan saya tentang mengapa ada begitu banyak drama ala Shakespeare di antara perusahaan-perusahaan di bidang ini, intinya adalah: “Begitu kamu melihat AGI, kamu tidak bisa tidak melihatnya.” Ia memiliki dinamika “cincin kekuasaan” yang nyata, yang mendorong orang melakukan hal-hal gila. Saya tidak mengatakan AGI itu sendiri adalah cincin, tetapi filosofi otoritarian “menjadi orang yang mengendalikan AGI.”

Satu-satunya solusi yang saya bayangkan adalah bergerak ke arah berbagi teknologi secara luas dengan orang-orang, dan tidak ada yang memegang cincin itu. Dua cara yang jelas untuk melakukan ini adalah memberdayakan individu dan memastikan sistem demokratis tetap mengendalikan.

Yang penting adalah proses demokrasi harus lebih kuat daripada perusahaan. Hukum dan regulasi akan berubah, tetapi kita harus bekerja dalam proses demokrasi, meskipun itu akan kacau dan lebih lambat dari yang kita inginkan. Kita ingin menjadi suara dan pemangku kepentingan, tetapi tidak memiliki semua kekuasaan.

Banyak kritik terhadap industri kita berasal dari kekhawatiran tulus tentang risiko tinggi dari teknologi ini. Itu sangat masuk akal, dan kami menyambut kritik dan debat yang baik niatnya. Saya memahami sentimen anti-teknologi, jelas teknologi tidak selalu baik untuk semua orang. Tapi secara keseluruhan, saya percaya bahwa kemajuan teknologi bisa membuat masa depan menjadi sangat luar biasa, untuk keluarga Anda dan keluarga saya.

Saat kita melakukan debat itu, kita harus menurunkan nada dan strategi, dan berusaha mengurangi ledakan di rumah—baik secara metaforis maupun harfiah.