加州收緊 AI 合約規範,隨著與川普政府的衝突升溫

Decrypt

簡述

  • 加州要求對尋求州政府合約的 AI 公司提供更強的保障措施。
  • 此舉正值川普政府推動全國性的 AI 標準之際。
  • 州政府官員將制定採購規則,涵蓋偏誤、濫用以及侵犯公民權利的風險等問題。

華盛頓與各州就人工智慧政策之間的衝突,週一在加州州長加文・紐森(Gavin Newsom)簽署一份行政命令後升級;該命令要求欲向州政府投標的 AI 公司提供更強的保障措施。 根據該命令,向加州政府機關銷售 AI 系統的公司將被要求證明其政策能夠防止濫用並保護隱私、安全與公民權利。 紐森在一份聲明中表示:「加州一直是創新的發源地。但我們也理解另一面:在錯誤的人手中,創新可能會以危及人們的方式被濫用。」他說:「加州在 AI 領域處於領先地位,我們將運用我們所擁有的每一種工具,確保公司保護人們的權利,而不是剝削他們或讓他們置於危害之中。當華盛頓的其他人正在設計政策、並在濫用的陰影之下擬定合約時,我們則專注以正確的方式來做這件事。」 紐森的命令要求該州政府的政府運作局(Government Operations Agency)為 AI 供應商制定採購標準,處理諸如非法內容生成、模型偏誤,以及對公民權利與言論自由的風險等問題。該命令也指示加州科技部(California Department of Technology)制定針對 AI 生成影像與被操縱影片加水印的建議。

 該命令使加州在與唐納・川普(Donald Trump)政府努力建立全國 AI 標準並限制州層級監管的行動之間陷入衝突。就在本月稍早,川普政府發布了一份全國人工智慧政策框架,敦促國會建立聯邦標準,並降低官員所描述的、由各州 AI 法規拼湊而成的「不一而足」局面。 在卡托研究所(Cato Institute)擔任兼任研究員的凱文・弗雷澤爾(Kevin Frazier)表示,這場爭議反映了州與聯邦權力之間長久以來的憲法平衡。 「每一次技術突破——從蒸汽船到超級智能——都會提出關鍵問題:要如何在各州與聯邦政府之間分配監管權限?」弗雷澤爾對 Decrypt 表示。「憲法給出了明確的答案:聯邦政府必須在涉及經濟與國家安全,以及那些需要一致回應的事項上主導;各州則能在其邊界內行使其傳統的警察權力(police powers)。」

弗雷澤爾稱紐森的行政命令是「聯邦制(federalism)實踐的絕佳例子」,並表示,若公司拒絕加州的要求,就可以選擇不向該州出售。 「同時,國會仍處於能夠設定該國 AI 野心的步伐與方向條件的立場,」他說。 在民主與科技中心(Center for Democracy and Technology)擔任資深政策分析師的昆恩・安內克斯-雷伊斯(Quinn Anex-Reis)表示,加州的規模與採購能力意味著,如果它們想向該州出售,可能因此而影響公司如何設計與測試 AI 系統。 「政府採購對公司非常有價值,」安內克斯-雷伊斯對 Decrypt 表示。「對技術開發者而言,這是商業的一大部分;而對 AI 開發者而言,這更是快速成長的商業途徑。」 他表示,採購規則是政府最有效的方式之一,用來塑造 AI 系統如何被開發以及如何被評估。 「採購流程是一個非常重要的地方,值得留意,」安內克斯-雷伊斯說。「因為這確實是州政府能夠用來制定保護措施與期待——供應商如何開發其工具——的最重要環節。」

紐森已成為一位全國性的民主黨人物,並可能成為 2028 年的總統候選人。近期的 Politico–UC Berkeley Citrin Center 民調發現,在加州的可能民主黨初選選民中,他以 14 個百分點領先於前副總統卡瑪拉・哈里斯(Kamala Harris)。 就 AI 監管政策的這次衝突,使他與川普政府陷入直接對立,隨著外界就誰應該制定規範科技的規則的辯論愈演愈烈。去年夏天,川普政府下令聯邦機構避免與其所稱的「醒悟 AI(woke AI)」模型簽約,並採購能夠展現意識形態中立性的系統。

儘管如此,安內克斯-雷伊斯表示,圍繞 AI 監管的問題比政治更大。 「這真的不應該是一個政治議題,」安內克斯-雷伊斯說。「這主要是要確保納稅人的資金不被浪費,並確保我們政府所購買的工具能夠發揮作用。」

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明
留言
0/400
暫無留言