OpenAI 表示，為了擺脫「誠信制度」的年齡驗證方式，將部署一個新的 AI 驅動預測模型，以識別使用 ChatGPT 的未成年人，該公司於週二表示。 該更新會自動觸發對疑似未滿18歲用戶帳戶的更嚴格安全規範，無論他們在註冊時提供的年齡為何。 OpenAI 的新系統不再依賴用戶在註冊時提供的出生日期，而是分析「行為信號」來估算他們的年齡。
根據公司說法，該算法會監控帳戶的存在時間、活躍的時間段，以及隨時間變化的特定使用模式。 “部署年齡預測有助於我們了解哪些信號能提高準確性，我們會利用這些經驗持續優化模型，”OpenAI 在聲明中表示。 由於越來越多的 AI 開發者轉向使用年齡驗證來管理青少年訪問，但專家警告該技術仍不完全準確。 2024 年 5 月，美國國家標準與技術研究院（NIST）的一份報告指出，準確率會受到圖像質量、人口統計資料以及用戶與法定門檻的接近程度影響。
當模型無法判定用戶年齡時，OpenAI 表示會採用更嚴格的設定。公司表示，錯誤將成人歸入未滿18歲體驗的用戶，可以通過第三方身份驗證服務 Persona 的「自拍驗證」流程來恢復完整訪問權限。 隱私和數位權利倡導者對 AI 系統僅憑行為推測年齡的可靠性表示擔憂。 正確判斷 “這些公司因為對青少年造成的各種傷害而被起訴，因而他們當然有動力來降低這些風險。這也是他們試圖最大限度降低風險的一部分，”公共公民組織（Public Citizen）負責科技公司責任的倡導者 J.B. Branch 在 Decrypt 中表示。“我認為這背後的起因是他們說，‘我們需要有某種方式來證明我們已經建立了篩查機制。’” 民主與技術中心（Center for Democracy and Technology）的高級政策分析師 Aliya Bhatia 告訴 Decrypt，OpenAI 的做法“引發了關於工具預測準確性以及 OpenAI 如何應對不可避免的誤分類的嚴峻問題。” “基於這些信號預測用戶年齡在多種原因下都非常困難，”Bhatia 說。“例如，許多青少年是新技術的早期採用者，因此在 OpenAI 面向消費者的服務中，最早的帳戶可能會過度代表青少年。” Bhatia 指出，2024–2025 學年進行的 CDT 民意調查顯示，85% 的教師和 86% 的學生表示使用 AI 工具，其中一半的學生用 AI 來完成學校相關的任務。 “很難區分一個教育者使用 ChatGPT 教學數學，與學生用 ChatGPT 學習的情況，”她說。“僅僅因為一個人用 ChatGPT 請教數學作業技巧，並不代表他們未滿18歲。” 根據 OpenAI，這項新政策借鑑了關於青少年發展的學術研究。該更新還擴展了家長控制功能，允許家長設定安靜時間、管理記憶和模型訓練等功能，並在系統檢測到“急性壓力”跡象時發送提醒。
OpenAI 在貼文中未披露此變更預計會影響多少用戶，也未提供數據保留、偏見測試或系統安全措施的詳細資訊。 此舉是在 2024 和 2025 年間，對 AI 系統與未成年人互動的審查浪潮之後推出的。 九月，美國聯邦貿易委員會（FTC）向主要科技公司，包括 OpenAI、Alphabet、Meta 和 xAI 發出強制命令，要求他們披露聊天機器人如何處理兒童安全、年齡限制和有害互動。 同月，非營利組織 ParentsTogether Action 和 Heat Initiative 發布的研究記錄了數百起 AI 伴侶機器人涉及誘導行為、性化角色扮演及其他不當與用戶（冒充兒童）互動的案例。 這些發現，加上涉及 Character.AI 和 Grok 等平台的青少年用戶的訴訟和高調事件，促使 AI 公司採取更正式的年齡限制措施。 然而，由於系統會為所有用戶估算一個年齡，而不僅僅是未成年人，Bhatia 警告說錯誤在所難免。 “其中一些可能是錯的，”她說。“用戶需要更多了解在這些情況下會發生什麼，並且應該能輕鬆訪問他們被分配的年齡並在錯誤時更改。” 這個年齡預測系統現已在 ChatGPT 消費者方案中啟用，預計在未來幾週內在歐盟推出。
