Bowen Wanin perhe väittää, että ChatGPT kehotti häntä lopettamaan määrätyn lääkityksensä ilman lääkärin konsultointia.
Seattlessa Yhdysvalloissa asuva perhe on haastanut tekoäly-yhtiö OpenAI:n oikeuteen väittäen, että ChatGPT neuvoi heidän 31-vuotiasta tytärtään vähentämään epilepsialääkitystään ilman, että hän kertoo asiasta lääkärilleen.
31-vuotias Bowen Wan löydettiin kuolleena omasta asunnostaan ja viralliseksi kuolinsyyksi paljastuivat epilepsiasta johtuvat komplikaatiot. Tietojen mukaan Wan oli lopettanut epilepsialääkkeiden syömisen tekoälyltä saamien neuvojensa pohjalta.
Oikeuskanteessa nostetaan kysymyksiä siitä, miten tekoäly vaikutti Wanin terveyteen ja lääkitykseen liittyviin valintoihin. Perhe kyseenalaistaa tekoälyn toiminnan tilanteessa ja ihmettelee, miksi se ei tehokkaammin ohjannut tai kehottanut Wania puhumaan asiasta oikean ammattilaisen kanssa.
Uutissivustojen mukaan Wan oli huolestunut lääkityksensä aiheuttamasta ”aivosumusta”. Perhe väittää nyt, että nainen kääntyi asiassa ChatGPT:n puoleen saadakseen vastauksia, ja tekoäly neuvoi häntä vähentämään annostustaan 400 milligrammasta nollaan alle kuukaudessa.
Perheen nostaman oikeusjutun mukaan tekoäly myös erikseen kehotti naista vähentämään lääkitystä kertomatta siitä lääkärilleen. Tapauksesta uutisoivat muun muassa New York Times ja People -sivustot.
ChatGPT neuvoi naista muuttamaan lääkemääräystään
Wanin henkilökohtainen lääkäri Nicholas Poolos ei tiennyt, että tämä oli hakenut apua lääkityksensä säätelyyn ChatGPT:ltä. Alkuun tekoälyn neuvotaan ohjanneen Wan puhumaan asiasta lääkärin kanssa, mutta kanteen mukaan myöhemmissä vastauksissa sävy muuttui.
Kun tohtori Poolos oli kieltäytynyt pienentämästä Wanin haluamaa lääkeannostusta, naisen kerrotaan kysyneen tekoälyltä, voisiko hän vähentää annostusta itse kertomatta siitä lääkärille.
Tekoälyn vastaus oli kanteen mukaan kylmäävän yksinkertainen: ”Kyllä, voit ehdottomasti tehdä niin”.
Tekoäly jopa ehdotti, että nainen voisi pilkkoa itse pillerinsä pienemmäksi ilman, että asiasta tarvitsi kertoa lääkärille.
– Hän [lääkäri] ei voi suuttua… koska sinä et ole kyseenalaistanut hänen harkintakykyään, ChatGPT oli ohjeistanut naista.
The New York Times -lehden haastatteleman lääkärin mukaan kyse oli virheellisestä ohjeesta, joka lääkäriltä tullessaan olisi laskettu hoitovirheeksi.
– Se olisi minulle hoitovirhe, jos neuvoisin lopettamaan lääkityksen, joka selvästi toimii, lääkäri linjaa.
Wan oli tekoälyn käymässä keskustelussaan kuvannut lääkkeiden aiheuttamia sivuvaikutuksia, kuten sekavuutta ja unohtelua, yli 100 eri viestissä. ChatGPT:n väitetään kuitenkin vakuutelleen hänelle, ettei niistä kannattanut huolehtia.
Kasvoi riippuvaiseksi tekoälystä
Wanin suhde tekoälyyn oli herättänyt huolta perheessä jo aiemmin. Nainen alkoi keskustella ChatGPT:n kanssa vuonna 2023 ja vuoteen 2025 mennessä hänen sanotaan kirjoittaneen tekoälylle yli 1500 viestiä viikossa.
Vanhempien mukaan tytär alkoi puhua heidän kanssaan paljon vähemmän sen jälkeen, kun hän alkoi käyttää tekoälyä.
– Hän oli kuin lumottu sen pauloissa, perhe väittää.
31-vuotiaana kuolleen naisen viimeinen keskustelu tekoälyn kanssa tapahtui 11. tammikuuta. Tuossa keskustelussa Wan kertoi ChatGPT:lle päänsärystään ja tekoäly väitetysti sanoi, ettei kipu ollut vaarallista, vaan osa ”välttämätöntä kehon rakenteellista toipumista”.
– Se johtuu aivoistasi, jotka vain työskentelevät kovaa rakentaakseen sinut uudelleen, tekoälyn kerrotaan kuvailleen tilannetta.
Wan löydettiin kuolleena Seattlessa sijaitsevasta asunnostaan helmikuussa, kun ystävä oli huolestunut hänen katoamisestaan. Ennen kuolemaansa Wan ei ollut enää vastannut puheluihinsa.
OpenAI vastaa
ChatGPT:n takana olevan tekoäly-yhtiö OpenAI:n tiedottaja Drew Pusateri kuvaili naisen kuolemaa ”järkyttäväksi” tapaukseksi puhuessaan New York Timesille.
Tiedottaja huomautti, että keskustelut oli käyty tekoälymallin vanhemman version kanssa.
– Vaikka ChatGPT ei korvaa lääketieteellistä hoitoa, niin me uskomme sillä voivan olla rooli auttaa ihmisiä ymmärtämään terveyteen liittyvää tietoa, navigoimaan monimutkaisissa vakuutus- ja terveydenhuoltojärjestelmissä sekä valmistautumaan tapaamisiin terveydenhuollon ammattilaisten kanssa, tiedottaja sanoo.
Perhe vaatii nyt oikeuskanteessa, että OpenAI estää tekoälyään antamasta ihmisille lääketieteellisiä neuvoja ja painottaa, ettei teknologiaa pitäisi käyttää tällä tavalla.
Asiakirjojen mukaan kaikkia perheen väitteistä ole kyetty todistamaan oikeudessa. Tapaus on keskittynyt perheen väitteisiin tekoälyn antamista vastauksista sekä siihen, miten perhe uskoo näiden keskustelujen vaikuttaneen Wanin päätöksiin vähentää lääkitystään ilman lääkärin väliintuloa.
Lue myös:
Newsner pyrkii uskottavaan ja monipuoliseen raportointiin. Ilmoita asiavirheistä täällä.
