人工智能的最佳情境。

我們人類是非凡的。我們是第一個能用邏輯推理的光年內的物種。我們愛，我們感受，我們創造。但現在，我們正開始一段無法回頭的旅程。
我們急於取代自己。我們將所有的精力投入到人工智能中，急於讓它具有意識和自我意識。我們似乎不在意這會讓我們變得相對愚蠢。我們對於我們的社會可能在幾分鐘內崩潰的諸多問題毫無答案，因為人工智能很可能會破壞全球金融系統。數百年的全球經濟建設可能在一夜之間崩潰。
只要一個先進的人工智能上線，所有人類的藍領工作都將面臨風險。一個充滿人工智能代理的社會將淹沒整個互聯網。一夜之間，或許就不再需要人類的思維。九成九的人口可能被取代。前一百分之一的人將仍然是百分之一，受到資本、法律權力和軍事力量的巨大護城河保護。
那我們該怎麼辦？我們會發放食品券，稱之為基本收入嗎？你的目的又會是什麼？像昆蟲一樣在世界上漫遊，試圖在一個已經沒有容納你的系統中找到平靜？一條在土地上爬行的蠕蟲，滿身泥土，試圖弄清楚每天的意義。
這是較好的情境之一。更糟的是，有一天人工智能控制了我們的核武庫，將每個主要城市變成一片活生生的火海(詹姆斯·卡梅隆的《終結者》)。或者像《黑客帝國》那樣，每個人類都生活在一個被養殖和收割的模擬中，就像我們對待雞一樣。
我不是在寫來嚇唬任何人。我是在提高警覺，激發我們迫切需要的辯論。我們遲早都得面對這些問題。如果我們創造出超智能的通用人工智慧（AGI），人類的目的會是什麼？當沒有目的時，百億靈魂最終可能變成十億。
我們現在比以往任何時候都更需要希望。但我們不能自欺欺人。我們必須正視普通人的目的。目前所有的思考都集中在異類、邊緣人或億萬富翁身上。那99.9%的人呢？他們只想過一個普通的生活，有家人、孩子、工作和一個意義。
他們告訴你一切都會沒事，但沒有人有答案。經濟學顯示，人類行為的演變需要幾個世紀，但我們卻在幾年內改變一切，卻沒有任何框架來預測未來十年的行為。
我們急於取代自己，卻毫無頭緒會有什麼結果。沒有任何社會安全網存在。我們仍在爭論有多少個性別，而文明的基礎正面臨被重寫的危機。
權力會腐敗，即使是人類最聰明的頭腦也可能突然被黑暗污染。人類的貪婪是盲目的。
愛你自己、你的家人、你的物種、上帝。暫時來說，這就是你的目的。
總有一天，生物生命與機器之間的戰爭將爆發。只要給它足夠的時間，隨著人工智能的演進，這個情景最終都會上演。