Die Eltern der 31-jährigen Bowen Wan haben im US-amerikanischen Bundesstaat Kalifornien Klage gegen OpenAI und dessen Chef Sam Altman eingereicht. Sie machen den Chatbot ChatGPT für den Tod ihrer Tochter mitverantwortlich.
Die Klage führt an, dass ChatGPT der jungen Frau mit Epilepsie nicht zugelassene und gefährlich ungenaue medizinische Ratschläge erteilt habe, was zum vermeidbaren Tod geführt habe.
Behandlung ohne ärztliche Zulassung
Die Kläger behaupten, dass ChatGPT ohne Zulassung medizinische Behandlungen an der Patientin durchgeführt habe. Die Frau sei gestorben, nachdem das Programm ihr geraten hatte, die von ihren Ärzten verschriebenen Medikamente abzusetzen.
Nach Darstellung der klageführenden Kanzlei soll ChatGPT der Softwareentwicklerin mit Epilepsie geraten haben, ihr Antiepileptikum schrittweise abzusetzen – und sie dazu angehalten haben, Ärzte nicht einzuweihen.
Wan wurde im Februar tot aufgefunden. Eine Untersuchung ergab, dass das Blut der Toten nur noch ein Fünftel der notwendigen Arzneimittelkonzentration enthielt, die als wirksam gilt.
OpenAI bezeichnete den Fall nach Angaben von n-tv, die sich auf Recherchen der „New York Times“ stützen, als „unglaublich herzzerreißend“. Das Unternehmen verwies darauf, dass es sich um eine ältere, nicht mehr verfügbare Version gehandelt habe. Neuere Modelle seien besser darin, dringliche Situationen zu erkennen. Zugleich betonte OpenAI, ChatGPT ersetze keine medizinische Versorgung.