科技投資者兼前Coinbase首席技術官Balaji Srinivasan提出了一個嚴峻的命題:在追求先進人工智慧(AI)的世界中,私鑰——而非僅僅是提示詞——可能決定誰或什麼保持控制權。
知名加密投資者、《網絡國家》作者Balaji Srinivasan發布了一篇題為「非你的鑰匙,非你的機器人」的廣泛X貼文,探討人工智慧是否會繫於人類指揮,或最終自主決定方向。
雖然這是一篇短短的X貼文,但他直言不諱地提出問題:「根本問題在於AI是否能保持在牽制之下。」
目前,Srinivasan認為,人類仍處於上游。AI系統或許能優化提示詞、產生內部獨白並自我修正,但目標仍由人類定義。「然而,人類仍然是最終的上游,」他描述人類為設定目標和感知市場、政治及變化條件的感測器。
他質疑這個層級是否能持續。隨著AI模型在驗證與推理方面的進步,他認為它們可能在許多任務上超越人類。不過,Srinivasan對機器能獨立產生根本目標表示懷疑。「但AI會取代對上游人類提示的需求嗎?我不那麼確定。」
在他看來,關鍵限制在於再生能力。人類動機源自進化壓力——食物、住所,尤其是繁衍後代。他認為,除非AI系統能在不依賴人類合作的情況下進行繁殖,否則它們仍將依賴人類設定的目標。
Srinivasan描繪了一個假設的未來:自主AI需要控制物理基礎設施——人形機器人、無人機、資料中心、裝配線和能源生產——全部在沒有人工監督的情況下運作。儘管他承認這樣的情景「在技術上並非不可想像」,但他轉而談及地緣政治。
他認為,中國更可能設計受嚴格控制的AI系統,而非自主型的。「我們以中國共產主義更可能產生AI奴隸而非AI神祇為前提,」他寫道。在這個框架下,機器人和數位代理將受到與人類身份相關聯的密碼控制。
他將這一邏輯擴展到全球。在中國之外,Srinivasan認為,基於區塊鏈的密碼學可以作為AI治理的機制。「所有私有財產都變成私鑰,而你的機器人是你最重要的私有財產,因為它們為你做所有事情,」他寫道。
在這個想像的未來中,未被束縛的機器人將被視為安全威脅,在它們能夠複製之前就被消除。Srinivasan將其比作反轉的反烏托邦故事——人類與合作的服從機器攜手合作,以防止獨立AI建立自我持續的立足點。
儘管這是推測性質的,他的貼文觸及了關於AI對齊、數位主權以及密碼學在新興技術中的角色的持續辯論。隨著各國政府考慮AI規範與企業加快研發步伐,Srinivasan的論點加入了一個加密色彩的轉折:掌控鑰匙,掌控機器人。