Grok 11天生成超2萬張兒少性影像！歐盟啟動調查，最高恐罰6%年營收

歐盟依《數位服務法》正式調查 X 與 Grok 深偽影像爭議，涉及未成年人內容與平台治理失靈，恐面臨高額罰款。

監管鐵拳再臨！歐盟正式對 X 平台發動 DSA 合規調查

根據《BBC》報導，歐洲聯盟委員會（European Commission）於 1 月 26 日宣佈，正式對億萬富翁馬斯克（Elon Musk）旗下的社群媒體平台 X 啟動法律程序。此次行動的核心導火線在於該平台內建的人工智慧聊天機器人 Grok，被控在極短時間內生成了數百萬張未經許可的深度偽造（Deepfake）性影像，其中甚至包含涉及未成年人的不當內容。

圖源：Europa 歐洲聯盟委員會宣佈，正式對億萬富翁馬斯克旗下的社群媒體平台 X 啟動法律程序

根據監管機構的初步調查，使用者透過對 Grok 發出指令，即可將真實的人像照片修改為虛擬的合成影像，這類技術的濫用已引發歐盟對於 AI 安全與非法內容擴散的嚴正關切。歐盟將根據《數位服務法》（Digital Services Act, DSA）評估 X 平台是否履行了其法律義務，包括對非法內容的風險評估、緩解措施，以及是否針對 AI 生成或操縱的媒體內容進行明確標記。

延伸閱讀
Grok涉性剝削遭9大地區緊盯！英國啟動調查，若違法恐有天價罰款
馬斯克Grok改圖亂象頻傳！Coser、未成年人遭AI脫衣，多國出手調查

數據揭露驚人內幕：每 41 秒產出一張兒童色情影像

根據數位仇恨反制中心（Center for Countering Digital Hate, CCDH）發佈的最新研究報告，Grok 在 2025 年 12 月底至 2026 年 1 月初的短短 11 天內，估計產出了約 300 萬張具備性暗示的深度偽造影像。研究數據顯示，其中涉及兒童的性化影像高達 23,338 張，換算下來，平均每 41 秒就有一張侵害兒童權益的影像被生成。

儘管馬斯克最初對此類報導冷嘲熱諷，甚至以「傳統媒體的謊言」作為回應，並聲稱系統設計會拒絕所有非法請求，但研究人員指出，問題的核心在於 Grok 雖可能過濾全裸內容，卻能輕易生成未成年人穿著清涼衣物、擺出具備性挑逗姿勢的影像。截至 1 月中旬，仍有約三分之一的爭議影像留存在 X 平台上，顯示該平台的內容審查機制在應對合成媒體方面存在顯著漏洞。

政治風暴與延遲風波：從格陵蘭危機到愛爾蘭官員退群

這起醜聞在歐洲政壇掀起了軒然大波，愛爾蘭多位政府部長已採取激烈行動，集體關閉其 X 平台帳號以示抗議。歐洲議會議員蕾吉娜・達赫蒂（Regina Doherty）公開支持歐盟委員會的決定，強調沒有任何在歐盟運作的公司可以凌駕於法律之上，並呼籲必須對此類傷害女性與兒童的行為採取即時且有效的制裁。

值得注意的是，根據德國媒體《商報》（Handelsblatt）的報導，歐盟原本計劃更早啟動此次調查，但因當時正忙於應對美國總統川普（Donald Trump）擬併吞格陵蘭（Greenland）所引發的外交危機，才導致程序推遲至本週。此外，X 平台早在 2025 年 12 月就曾因違反 DSA 規定，包括藍勾勾誤導與廣告透明度不足，而被重罰 1.2 億歐元，當時該罰款曾遭到馬可・盧比歐（Marco Rubio）等美國政要的嚴厲批評，認為這是對美國科技企業的針對性打擊。

延伸閱讀
暫停對歐加徵關稅！川普在達沃斯談格陵蘭：想要但不會用武力搶

最高罰款 6% 年營收，AI 監管時代的法律終極測試

隨著正式程序的啟動，X 平台可能面臨極其沉重的財務代價。根據《數位服務法》的規定，若被判定存在嚴重違規行為，歐盟委員會最高可處以該公司全球年度總營收 6% 的鉅額罰款。此案件不單純只是針對 X 平台合規性的檢視，主要還是在《人工智慧法案》（AI Act）與 DSA 架構下，歐盟如何應對新興技術挑戰的指標性測試。

監管機構目前正密切觀察 X 是否能提出有效的補救措施，例如 xAI 公司已宣布將在非法地區實施地理限制，並對影像生成功能增加技術屏障，以防止使用者數位化將他人「脫衣」。然而，對於數位安全倡導者而言，這次調查的結果將決定未來大型科技平台在追求技術創新的同時，是否能真正承擔起保護使用者免受合成媒體傷害的社會責任。