OpenAI 在進入美國軍事機密網絡的推動中遇到消費者反彈,以及一個較為低調但具有重要意義的基礎設施轉型,凸顯了這個人工智慧(AI)巨頭如今在國家安全野心與用戶信任之間所走的鋼索。
這場爭議始於2月28日,當時OpenAI確認與美國國防部達成協議,將在機密網絡上部署包括ChatGPT技術在內的先進AI系統。
公司將此交易描述為合法且嚴格控制,但批評者則看到完全不同的情況:一個面向消費者的AI平台在公眾對人工智慧的審查已經非常激烈的時刻,深入涉入軍事行動。
OpenAI表示,該協議包括明確的安全措施,包括禁止對美國人進行大規模國內監控、自治武器控制以及高風險自動決策系統。
它還強調技術限制,包括僅在雲端部署以及保留對安全系統的控制權,並遵守美國法律框架,如第四修正案和國防部關於人類監督致命武力的規定。
然而,這些措施的外觀並不十分微妙。
在公告發布幾個小時內,一個名為 #QuitGPT 的草根抵制運動開始在社交媒體上傳播,呼籲用戶取消訂閱、刪除應用程式,並轉向競爭對手。這種可衡量的反彈轉化為應用行為的顯著變化。
網站 Quitgpt.org 的截圖
根據應用分析數據,2月28日美國用戶卸載 ChatGPT 的比例日增295%,而次日下載量下降13%,之後又下降5%。
用戶情緒在應用評價中表現得更為激烈,一天內一星評價激增775%,並持續攀升,而五星評價則大約減少一半。競爭對手也從中受益。
Anthropic 的 Claude 應用在同期內的下載量增加了37%至51%,短暫超越 ChatGPT 在美國 App Store 的排名,顯示用戶在探索替代方案。抵制運動的組織者聲稱有數百萬次行動,包括取消訂閱和承諾,雖然具體數字因資料來源和參與定義而異。
OpenAI 迅速採取行動控制事態擴散。執行長山姆·奧特曼承認在傳達協議內容方面存在不足,稱其“機會主義且草率”,並在數日內修訂了協議條款。
更新後的條款明確禁止利用AI系統進行有意的國內監控,並對任何情報機構的參與加入了更嚴格的規定,包括獨立的合同層級。公司還宣布計劃與其他AI開發商協作,共同制定安全框架,將這些變化定位為收緊而非撤退。
儘管修訂後反彈有所緩和,但這一事件留下了痕跡,凸顯了當AI觸及敏感領域時,用戶情緒可以多快轉變。同時,OpenAI 在幕後也在進行一些不那麼顯眼但具有戰略意義的動作。
2023年3月初,公司重組了其計算與基礎設施運營,將責任劃分為三個專注小組,涵蓋數據中心設計、商業合作夥伴關係以及現場設施管理。這一重組反映了OpenAI擴展計算能力的更廣泛轉變。
公司不再積極建設和擁有與其雄心勃勃的“Stargate”計劃相關的大型數據中心,而是更依賴租賃和與雲端供應商的合作。微軟的Azure仍是核心策略的一部分,此外OpenAI也擴展了與Oracle和亞馬遜Web服務的合作,簽訂了多年的容量協議。
早期涉及大型聯合所有基礎設施項目的計劃已被縮減或重新調整,因為在大規模建設AI超級計算能力的財務和後勤現實變得越來越難忽視。相反,OpenAI 正專注於控制關鍵元素,如定制硬件和晶片,同時將物理基礎設施層外包給成熟的超大規模雲端供應商。
這兩個發展——一個公開且具爭議,另一個運營且務實——並非直接相關,但共同描繪出一個在多個前線迅速行動的公司,有時甚至比其傳訊速度更快。
對OpenAI來說,現在的挑戰不再是是否能建立強大的系統,而是如何管理在風險非比尋常的地方部署這些系統所帶來的後果。