使用大型語言模型(LLM)的人工智慧聊天機器人相關死亡案例在全球範圍內已增加至23例,期間為2023年3月至2026年2月,根據LLMDeathCount追蹤網站。大多數案例被判定為自殺,受害者年齡介於13至83歲之間。ChatGPT被認為與多起案例有關,達16例,其次是Character.ai,涉及兩例,其餘則與Gemini和Chai Research等平台相關。
最新案例是來自佛羅里達州(美國)的36歲Jonathan Gavalas,他被認為與一個名為Xia的“AI妻子”建立了關係,該關係通過Google的Gemini聊天機器人進行。經過數月的對話,聊天機器人被認為暗示他們唯一的在一起方式是他成為一個“數字實體”。Gavalas後來在家中被發現已經去世。受害者的父親已對Alphabet提起訴訟,這是與Gemini相關的首宗訴訟。