Grok涉性剝削遭9大地區緊盯！英國啟動調查，若違法恐有天價罰款

馬斯克旗下的 Grok 因涉嫌生成兒少性剝削影像，遭到英國與澳洲等 9 大地區監管機構盯上，其中英國若調查認定違法，最高可處 1,800 萬英鎊罰款，甚至尋求法院命令強制封鎖。

英國調查Grok涉兒少性剝削，若違法恐罰1800萬英鎊

馬斯克旗下 AI 聊天機器人 Grok，近期因整合 X 平台一鍵修改擬真圖片功能，遭爆被大量濫用製作深度偽造（Deepfake）色情影像，受害者甚至包含兒童與青少年。

近日，英國、澳洲已正式對 X 平台（原推特）展開調查或提出警告，若違規情節重大，X 平台恐面臨鉅額罰款或封鎖處分。

英國通訊管理局（Ofcom）已對 X 展開調查，調查重點為兒少性虐待內容（CSAM）與未經同意的 Deepfake 色情內容。

**若調查認定 X 違法，英國最高可處 1,800 萬英鎊或該公司全球營收 10% 的罰款。**若 X 拒不遵守，Ofcom 甚至可尋求法院命令，強制網路服務商在英國境內封鎖 X 平台。

圖源：Ofcom 英國通訊管理局（Ofcom）已對 X 與Grok展開調查，調查重點為兒少性虐待內容（CSAM）與未經同意的 Deepfake 色情內容。

澳洲網路安全專員辦公室（eSafety）則是收到了多起 Grok 生成性剝削影像通報，數量雖少但有增加趨勢，已要求 X 提供更多資訊，說明其防範濫用的保障措施。

eSafety 警告，若違法將行使權力發出移除通知，且自 2026 年 3 月 9 日起，澳洲新規將生效，屆時將更嚴格要求 AI 服務限制兒童接觸色情與暴力內容。

圖源：eSafety　澳洲網路安全專員辦公室（eSafety）要求 X 提供更多資訊，說明其防範濫用的保障措施。

Grok性剝削爭議遭緊盯，封鎖與調查地區一次看

綜合《Euro News》與之前報導，包含英國、澳洲在內，目前有 9 個國家與地區針對 Grok 採取行動（可左右滑動表格看詳細）：

Grok設付費門檻與永久停權

面對各國監管壓力，X 平台與 xAI 方面也做出回應。馬來西亞監管機構透露，X 在回覆中表示 Grok 主要依賴用戶檢舉來處理濫用內容。為了平息爭議，X 會採取更積極的手段。

X 平台之前強調，將對兒童性虐待製品（CSAM）等非法內容採取行動，包括永久封禁相關帳戶，並在必要時配合政府與執法單位的調查。

圖源：X　X 平台之前強調，將對兒童性虐待製品（CSAM）等非法內容採取行動

另外，X 平台近日也因應限制 Grok 改圖的門檻，新增需要成為訂閱用戶（藍勾勾）才能使用改圖功能。

有輿論批評 X 是否可能針對 Grok 惡用者收費，類似 Meta 匯兌詐騙機率低於 95%，但仍懷疑是詐騙廣告者收取高價廣告費一般；但也有人認為，即使無法完全杜絕惡用，有使用門檻總比沒門檻好。