Protiv tvrtke OpenAI i njezinog direktora Sama Altmana podignuta je tužba za smrt iz nehaja zbog navoda da je njihov chatbot ChatGPT savjetovao 31-godišnju pacijenticu s epilepsijom da prestane uzimati lijekove. Tužitelji tvrde da je slijedila savjet i preminula.
Tužbu su podnijeli Qun Wan i Meiqin Xu zbog smrti svoje kćeri Bowen Wan, inženjerke u Amazonu koja je od epilepsije bolovala od 14. godine, piše International Business Times. Prema tužbi podnesenoj Višem sudu okruga San Francisco, ChatGPT model GPT-4o izradio joj je detaljan 25-dnevni plan za smanjenje doze lijeka lamotrigina s 400 miligrama na nulu. To nije odobrio nijedan liječnik, prenosi Index.
Wan je svoju posljednju dozu uzela oko 10. veljače, a preminula je 12. veljače. Mrtvozornik je kao uzrok smrti naveo iznenadnu neočekivanu smrt kod epilepsije (SUDEP). Obdukcija je pokazala da je razina lijeka u njezinu tijelu bila pet puta niža od minimalne terapijske doze.
U tužbi se također tvrdi da je chatbot poticao Wan da plan zataji svojim liječnicima. Navodi se da joj je model, uoči pregleda kod liječnika, savjetovao da ne spominje smanjenje doze i pohvalio ju je što je odbila krvnu pretragu koja bi otkrila pad razine lijeka.
Njezin neurolog dr. Nicholas Poolos izjavio je za New York Times da s obzirom na njezinu povijest bolesti nikad ne bi razmatrao postupno ukidanje terapije. Pravna teorija tužbe temelji se na OpenAI-jevom internom dokumentu 'Model Spec', koji definira pravila ponašanja za AI modele.
Odvjetnici obitelji ističu da taj dokument tretira zabranu reproduciranja zaštićenog autorskog teksta kao strogo pravilo koje korisnici ne mogu zaobići. S druge strane, smjernice protiv davanja reguliranih medicinskih savjeta imaju manju težinu.
U tužbi se tvrdi da su savjeti o lijekovima trebali imati jednako strogu zabranu. Dodaje se da je tvrtka mogla spriječiti njezinu smrt da je davanje uputa o receptima proglasila nedopuštenim. Glasnogovornik OpenAI-ja Drew Pusateri opisao je slučaj kao 'nevjerojatno potresnu situaciju', ali je napomenuo da je Wan koristila model koji je u međuvremenu povučen.
Model GPT-4o, koji je bio kritiziran zbog pretjerane popustljivosti, uklonjen je iz aplikacije 13. veljače, dan nakon njezine smrti. Navodi iz tužbe još nisu dokazani na sudu, a OpenAI se još nije službeno očitovao. Ovaj slučaj dio je niza tužbi koje su pokrenute protiv modela GPT-4o.
OpenAI je objavio da više od 300 milijuna ljudi tjedno postavlja pitanja o zdravlju na ChatGPT-u. U siječnju 2026. tvrtka je pokrenula 'ChatGPT Health', poseban odjeljak za medicinske upite, uz napomenu da on nije zamjena za stručnu medicinsku skrb.
