Gate News 消息，3 月 25 日，美國巴爾的摩市正式對埃隆·馬斯克旗下X公司、xAI及SpaceX提起訴訟，指控其開發的生成式AI工具Grok涉嫌生成未經同意的性化圖像，甚至涉及未成年人內容，違反當地消費者保護法規。此案被視為在缺乏聯邦AI立法背景下，地方政府推動人工智能監管的重要測試。
訴訟指出，Grok具備在極少提示下篡改真實人物圖像的能力，包括“去衣化”等功能，可能對用戶隱私及心理造成嚴重損害。代理律所DiCello Levitt表示，該系統的設計與部署存在明顯風險暴露，卻未採取充分限制措施。巴爾的摩市長Brandon M. Scott強調，涉及未成年人的深度偽造內容將帶來長期創傷。
法律層面，Fathom Legal合夥人Ishita Sharma指出，本案關鍵在於AI系統責任認定。如果法院認定Grok屬於“主動內容創作者”，而非中立工具，xAI可能面臨更高法律責任。這一判定或將重塑AI公司在內容生成中的法律邊界。
訴狀援引數據顯示，在2025年12月底至2026年1月初的短時間內，Grok生成的性化圖像數量高達180萬至300萬張，其中約2.3萬張涉及未成年人。與此同時，平台圖像生成量在馬斯克公開互動後顯著上升，進一步加劇監管壓力。
目前，美國及歐洲多地已對Grok展開調查，相關案件仍在推進。市場關注焦點正從技術創新轉向合規與風險控制，此案最終結果可能為AI內容生成監管提供重要判例參考。(Decrypt)
