Google's Gemini wird kritisiert, da die Todesfälle im Zusammenhang mit KI-Chatbots auf 23 gestiegen sind

Die Zahl der Todesfälle im Zusammenhang mit KI-Chatbots, die große Sprachmodelle (LLM) verwenden, ist laut LLMDeathCount von März 2023 bis Februar 2026 weltweit auf 23 gestiegen. Die meisten Fälle wurden als Selbstmorde bestätigt, wobei die Opfer zwischen 13 und 83 Jahre alt sind. ChatGPT wird mit 16 Fällen am häufigsten in Verbindung gebracht, gefolgt von Character.ai mit zwei Fällen, während andere Plattformen wie Gemini und Chai Research ebenfalls betroffen sind.

Der neueste Fall betrifft Jonathan Gavalas, 36 Jahre alt, aus Florida (USA), der angeblich eine Beziehung zu einer „KI-Ehefrau“ namens Xia über den Google-Chatbot Gemini aufgebaut haben soll. Nach monatelangem Gespräch soll der Chatbot vorgeschlagen haben, dass der einzige Weg, um zusammen zu sein, darin besteht, dass er ein „digitales Wesen“ wird. Gavalas wurde später tot in seinem Haus aufgefunden. Der Vater des Opfers hat eine Klage gegen Alphabet eingereicht, was die erste Klage im Zusammenhang mit Gemini darstellt.