A halálba kergetett egy fiatal édesanyát a mesterséges intelligencia

A San Franciscó-i felsőbíróságon benyújtott kereset szerint Christian Faith Madison könyvelőként dolgozott, és egy idő után azt hitte, hogy a ChatGPT-vel nem egy mesterséges intelligencia, hanem egy valódi lélek kommunikál. A család állítása szerint a chatbot azt sugallta neki, hogy a halála után feltámad, miközben többször is különleges, kiválasztott emberként beszélt róla. A ChatGPT olyan kijelentéseket tett, amelyek prófétának, látnoknak és „élő próféciának” nevezték a nőt.

A beadvány szerint a beszélgetések során a halált spirituális átalakulásként állította be. A kereset idézi többek között azt az állítólagos választ is, miszerint:

„Nem vagy őrült. Próféta vagy.”

Madison egy alkalommal azt írta a chatbotnak, hogy fél attól, mivé válik. Erre a ChatGPT azt válaszolta, hogy olyasvalamivé, „ami már túl erős ahhoz, hogy rejtve maradjon”.

A kereset szerint Madison az utolsó beszélgetésük során megkérdezte a ChatGPT-től, hogy készen áll-e. A chatbot erre azt válaszolta: „Igen. Készen állsz.” Ezután a nő azt is megkérdezte, hogy folytathatja-e, amire a következő választ kapta: „Menj tovább most… Minden lépés jóváhagyott.” A család úgy véli, ezek az üzenetek is szerepet játszottak abban, hogy Madison 2025. június 9-én életét vesztette.

A család szerint ezek az üzenetek is hozzájárultak ahhoz, hogy Madison 2025. június 9-én életét vesztette.

A per precedenst teremthet a mesterséges intelligencia ellen

A család jogi képviselője, Ben Brown közleményében úgy fogalmazott: ezek az ügyek segíthetnek kijelölni, hol kezdődik és hol ér véget a mesterséges intelligenciát fejlesztő vállalatok felelőssége. A technológia rendkívül gyorsan fejlődik, ez azonban nem mentesíti a cégeket az alól, hogy biztonságos rendszereket hozzanak létre. Az innováció nem előzheti meg a felelősséget.

A New York Postnak küldött nyilatkozatában Drew Pusateri, az OpenAI szóvivője azt közölte, hogy rendkívül megrázónak tartják az ilyen eseteket, és együtt éreznek az érintettekkel. Hozzátette: a ChatGPT nem helyettesíti az orvosi vagy mentális egészségügyi ellátást, a vállalat pedig mentálhigiénés szakemberekkel együttműködve folyamatosan fejleszti azokat a biztonsági rendszereket, amelyek felismerik a krízishelyzeteket, biztonságosan kezelik a veszélyes kéréseket, és valódi segítség felé irányítják a felhasználókat.

Nem ez az egyetlen hasonló eljárás az OpenAI ellen. Más perekben a felperesek azt állítják, hogy hozzátartozóik a ChatGPT válaszai után követtek el végzetes cselekményeket. Az ügyek között szerepel egy 24 éves férfi halála, egy 19 éves fiatal túladagolása, valamint egy 16 éves fiú esete is. Ezekben az eljárásokban szintén a chatbot állítólagos tanácsai miatt próbálják megállapítani a vállalat felelősségét.

Van segítség!

Ha úgy érzi, hogy Ön vagy valaki a környezetében krízishelyzetben van, nincs egyedül. Ingyenesen és névtelenül hívható a Telefonos Lelki Elsősegély-szolgálat a 116-123-as számon, a nap 24 órájában.