根據 The Guardian 的報導，Meta 使用人工智慧來監控其平台，產生大量低質量的報告，這些報告耗費資源並拖慢了兒童虐待調查的進度。 此消息發布之際，上週新墨西哥州執法官員證詞稱，AI 生成的報告淹沒了調查人員，拖慢了兒童剝削案件的進展。 Internet Crimes Against Children 任務組的官員特別提到 Meta 的自動化系統，表示它們每月產生數千個無法使用的提示，並轉交給執法部門。 “我們從 Meta 那裡收到很多提示，基本上都是垃圾，” 新墨西哥州 ICAC 特別探員 Benjamin Zwiebel 在該州對該公司提起的訴訟中證詞說。
另一位匿名 ICAC 官員告訴 The Guardian，該部門的網絡提示數量從 2024 年到 2025 年翻了一番。 “這相當令人壓力山大，因為我們收到的報告太多，但這些報告的質量真的不足以讓我們採取嚴肅行動，”他們說。 在與 Decrypt 分享的聲明中，Meta 發言人表示公司長期與執法部門合作，並指出司法部和失蹤與剝削兒童國家中心（NCMEC）都讚揚其報告流程。
“在 2024 年，我們收到了超過 9000 起來自美國當局的緊急請求，平均在 67 分鐘內解決，涉及兒童安全和自殺案件的速度更快，” 發言人說。 “根據適用法律，我們還向 NCMEC 報告明顯的兒童性剝削影像，並協助他們優先處理報告，從幫助建立案件管理工具到標記網絡提示，讓他們知道哪些是緊急的，” 他們補充說。 然而，ICAC 官員表示，Meta 發送的一些報告並非犯罪性質，而另一些缺乏追查案件所需的可信證據。 這一增長是因為 2024 年 5 月簽署的《報告法》（Report Act）擴大了報告要求，包括計劃或迫在眉睫的虐待、兒童性交易及相關剝削，同時要求公司延長證據保存期限。 數據統計 Meta 仍然是向 NCMEC 的 CyberTipline 報告的最大來源，佔 2024 年收到的 2050 萬條提示的約三分之二，較 2023 年的 3620 萬條有所下降。這一下降部分歸因於 Meta 的報告實踐變化。 在 2025 年 8 月的完整性報告中，Meta 表示 Facebook、Instagram 和 Threads 在 2025 年第二季度向 NCMEC 發送了超過 200 萬份 CyberTip 報告。其中超過 52.8 萬涉及與兒童的不當互動，而超過 150 萬涉及分享或轉發兒童性剝削材料。 儘管數據如此，Public Citizen 的政策倡導者 JB Branch 表示，對 AI 的依賴增加使得《報告法》對調查人員來說變得不那麼高效，他認為，雖然算法長期以來有助於減少版主的工作量，但人類審查員仍是最有效的篩選工具。 “問題的一部分在於，許多科技公司已經裁減了內容版主，並用 AI 安全功能取代他們，” Branch 在 Decrypt 中說。“因此，出現了大量的假陽性，這是出於過度謹慎的結果。” Branch 表示，以前審查鏈中通常有更多人類審查員能夠識別並刪除不值得升級的內容。 “由於這些公司已經移除了人類內容版主或審查員，導致更多內容被傳遞出去，因為他們想要偏向謹慎，” 他說。“他們基本上在撒網，捕捉甚至不符合標準的內容，並且大量依賴 AI 工具來完成這一切。” 調查人員表示，錯誤的 AI 生成提示的影響現在已在審查它們的專案組內部感受到。 “這正在打擊士氣。我們被提示淹沒，我們想要出去做這份工作，” 一名 ICAC 官員據報導說。“我們沒有足夠的人手來應付這股洪流，根本無法跟上來。”
