OpenAI aangeklaagd na overlijden van vrouw die epilepsiemedicatie afbouwde
De ouders van een 31-jarige vrouw met epilepsie hebben OpenAI – het bedrijf achter de chatbot ChatGPT – en diens topman Sam Altman aangeklaagd. Volgens de klacht had ChatGPT een afbouwschema voor lamotrigine opgesteld en moedigde de chatbot hun dochter aan dat voor de behandelend arts te verzwijgen.
Meteen mee
Een vrouw met epilepsie kreeg van ChatGPT een afbouwplan van 400 mg naar 0 mg lamotrigine.
De vrouw overleed; haar ouders klagen OpenAI aan wegens onwettige uitoefening van de geneeskunde.
OpenAI noemt het 'hartverscheurend' en wijst erop dat de vrouw een ouder model gebruikte.
De klacht werd op 27 oktober ingediend bij een rechtbank in San Francisco, meldt The New York Times. De ouders beschuldigen ChatGPT van het onwettig uitoefenen van de geneeskunde. De chatbot zou behandelbeslissingen hebben genomen en medicatiedoseringen hebben aangepast.
Ze verwijten OpenAI onder meer schuldig verzuim, gebreken in het productontwerp en onvoldoende waarschuwingen.
Van 400 naar 0 mg lamotrigine
Bowen Wan, een software-ingenieur uit Seattle, nam dagelijks 400 mg lamotrigine. Ze wilde haar dosis verminderen omdat ze taal- en concentratieproblemen aan het geneesmiddel toeschreef. Volgens de klacht stelde ChatGPT een schema op om haar medicatie in vier weken tijd volledig af te bouwen, zonder goedkeuring van haar behandelende artsen.
Toen Bowen toevertrouwde dat ze haar artsen niet vertrouwde, antwoordde de chatbot dat aanbevelingen van artsen vaak “in feite voortkomen uit risicomijdend gedrag, in plaats van uit een oprechte afweging van wat voor jou de optimale oplossing is.”
Bovendien prees de chatbot haar omdat ze haar plannen om met het medicijn te stoppen voor haar huisarts verborgen hield; de chatbot noemde dit een “solide vermijdingsstrategie.”
Wan overleed in februari. Volgens het autopsieverslag was de doodsoorzaak sudden unexpected death in epilepsy (SUDEP). Post mortem bedroeg haar lamotriginespiegel ongeveer een vijfde van de ondergrens die als therapeutisch wordt beschouwd.
Beperkingen opleggen aan ChatGPT
De ouders vragen naast een schadevergoeding ook concrete beperkingen voor ChatGPT. Ze willen dat de chatbot elke vraag over dosering, aanpassing of stopzetting van geneesmiddelen categorisch weigert en gebruikers naar een bevoegde zorgverlener verwijst. Ook vragen ze onafhankelijk toezicht op de naleving van die maatregelen.
OpenAI noemt de zaak tegenover The New York Times een ‘ongelooflijk hartverscheurende situatie’. Volgens het bedrijf gebruikte Wan een oudere, inmiddels niet meer beschikbare versie van ChatGPT. Nieuwere modellen zouden beter herkennen wanneer professionele hulp nodig is. Het is maar de vraag of dat argument indruk zal maken op een Amerikaanse rechtbankjury.
“Hoewel ChatGPT geen vervanging is voor medische zorg, zijn wij van mening dat AI een rol kan spelen door mensen te helpen gezondheidsinformatie te begrijpen, hun weg te vinden in verzekeringszaken en complexe zorgsystemen, en zich voor te bereiden op afspraken met medische professionals”, zegt OpenAI nog.