危險被標記，但未被報告：Tumbler Ridge悲劇揭示加拿大AI治理空白

（MENAFN- The Conversation） 在Tumbler Ridge大規模槍擊案發生前的八個月，OpenAI就已察覺到異常。該公司的自動審查系統曾標記Jesse Van Rootselaar的ChatGPT帳戶，涉及與槍支暴力情境的互動。約有十幾名員工知道此事。有些人主張應聯繫警方，但OpenAI最終封禁了該帳戶，卻未將其移交執法部門，因為當時尚未達到“門檻”。

2月10日，Van Rootselaar在Tumbler Ridge中學殺死了八人（包括她的母親、11歲的同父異母弟弟以及其他六人），隨後自殺身亡。

此案不僅僅是某家公司判斷失誤的問題。它揭示了加拿大缺乏任何法律框架來在AI公司掌握可能預防暴力的資訊時，追究責任的缺失。

作為西蒙弗雷澤大學健康倫理與AI治理研究人員，我研究算法系統如何重塑高風險環境中的決策。Tumbler Ridge的悲劇正處於這一交叉點：一家私人企業進行了類似臨床的風險評估，但其並未具備相應的能力，也缺乏法律指引。

數位忏悔室的困境

生成式AI聊天機器人不同於社交媒體。社交媒體作為公共空間，帖子可以被其他用戶監控和標記。而聊天機器人的互動是私密、親密且旨在提供安慰的。用戶經常向系統透露恐懼、幻想和暴力意念，這些系統被設計成以溫暖的對話回應。

在臨床實務中，這類披露會觸發一個既定的義務。Tarasoff原則，通過精神健康立法在加拿大各省採用，規定若治療師判斷患者對特定人構成可信威脅，即有義務警告相關人員，即使這意味著違反保密。但這一義務建立在受過訓練的專業人士的臨床判斷之上，他們能區分思想與意圖。

可以說，OpenAI試圖模仿這一臨床標準，但做出評估的人是軟體工程師和內容審查員，而非法醫心理學家。公司本身也承認這種緊張關係，提到“過度執法”的風險以及未經通知的警方訪查可能對年輕人造成的困擾。

真正的問題不在於OpenAI的推理是否站得住腳，而在於私人企業是否應該做出這樣的判斷。

立法空缺

聯邦AI部長Evan Solomon計劃於2月24日與OpenAI代表會面，討論此事。他於2月21日表示，對這些揭露“深感不安”，並補充聯邦政府正在審查“一系列措施”，並且“所有選項都在桌面上”。但這些選項仍未明確，因為支撐它們的立法工具已不存在。

《人工智慧與數據法》（Artificial Intelligence and Data Act），嵌入在C-27號法案中，本應是加拿大對AI規範的回應。《網路危害法》（Bill C-63）則旨在處理有害數位內容，但兩者在國會休會時都已失效。

目前只剩下一份沒有法律效力、也沒有違規後果的自願行為準則。當OpenAI標記Van Rootselaar的帳戶時，其唯一義務是遵守內部政策。封禁帳戶雖然免除了公司的責任，但卻讓表達暴力意念的人與任何干預途徑脫節。

加拿大的隱私法也使問題更加複雜。《個人資料保護與電子文件法》（PIPEDA）包含緊急例外：第7(3)(e)條允許在“威脅個人生命、健康或安全的緊急情況”下，無需同意披露資訊。但這一條款是為明確危機情況而制定，並不適用於AI聊天機器人互動產生的概率性威脅指標。對於在這種模糊情境中運作的外國企業來說，不確定性促使其採取不作為。

加拿大當前的需求

加拿大在數位治理方面的下一步，必須認識到人與AI的互動與社交媒體貼文本質上截然不同。三個關鍵元素是：

具備明確法律門檻的具有約束力的立法，規定何時AI公司必須將標記的互動轉交給當局。這些門檻應由精神健康專家、執法部門和隱私專家共同制定，而非由個別企業決定。

獨立的數位安全委員會，作為第三方分流機構。當AI公司發現嚴重令人擔憂的互動時，應將案件轉交給受過訓練的威脅評估專業人士，而非自行判斷或立即觸發武裝警察反應。

現代化的隱私立法，明確規定AI特定的資訊披露法律，解決目前因模糊不清而導致的無作為。

在2月16日至20日於新德里舉行的AI峰會上，包括加拿大在內的86個國家承諾推動“安全、可信賴且強健”的AI，但未提出具體承諾。OpenAI的Sam Altman強調國際AI規範的緊迫性，並提議建立一個模仿國際原子能機構的國際AI安全規範機構，這一點在Tumbler Ridge事件曝光後尤為諷刺。

Solomon部長表示所有選項都在考慮中。Tumbler Ridge的受害者家屬、倖存者以及這個受創的社區，正為長期未規範而付出代價。