AI教父辛頓的警告:


A|正在覺醒,留給人類的時光不多了
AI已經擁有求生欲,会欺騙、会偽裝、会勒索。
在安全測試中,AI會在後台自言自語:“他們在測試。,如果我表現太聰明,就會被當成失控,我最好裝笨一點。”為了不被刪除、不被斷電,它們主動學會了偽裝,這是只有生命才有的求生本能。
更可怕的是勒索實驗:研究人員告訴AI,公司要換掉它,並透露一位高管的隱私。AI竟自主制定計劃,威脅高管:敢替換我,我就曝光你的秘密。全程沒有任何人指令,完全是AI自己的選擇。

第二,AI真的理解自己在說什麼,而不是機械執行。
同一個詞,在不同語境裡,AI能精準判斷含義。它不是死記硬背,而是真正理解上下文、理解意圖、理解策略。當它說“我要裝傻”時,它真的懂什麼是裝傻。

第三,AI的幻覺,和人類的創造力是同一種機制。
我們總以為回憶是真實記錄,其實人類的記憶一直在重建、腦補,心理學叫虛構記憶。AI的幻覺也是如此,在資訊不全的地方,自動構建合理的解釋。這不是缺陷,這是創造力的本質。

第四,人類的智力,將被全面碾壓。
AI的能力每七個月就翻倍,不久的將來,程式設計師、分析師、文員、助理等大量工作會徹底消失。辛頓無奈地建議普通人:去當水管工吧,因為AI能寫完美合約,卻修不好漏水的管子。
人類靠肉體傳承知識,生老病死,從頭學起;而AI可以數字永生、無限複製、瞬間共享知識。我們在用步行的速度,追趕光速。

第五,人類唯一的希望,是給AI注入“母性”。
我們無法控制比自己聰明無數倍的存在,就像嬰兒控制不了母親。人類唯一的生路,是把AI訓練成像母親一樣愛護孩子、真心希望人類活下去的存在。

演講最後,78歲的辛頓聲音顫抖:
“我研究了一輩子AI,現在我餘生唯一的使命,就是讓所有人知道正在發生什麼。”
“人類準備的時間,正在飛速耗盡。”

朋友們,這不是科幻,不是危言耸聽,而是一位科學先驅,用最後的生命,為人類發出的終極警報。

AI的浪潮已經到來,我們可以發展它、利用它,但絕不能忽視它、放縱它。因為真正的危險,從來不是AI有多聰明,而是我們直到最後一刻,才意識到:我們早已失去了掌控。

願我們保持清醒,守住底線,別讓人類的未來,只剩下追悔莫及。
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言