Američki AI div OpenAI ponovno se našao na sudu, ovog puta zbog tragičnog slučaja samoubojstva 24-godišnje djevojke, čija majka u tužbi tvrdi da su za smrt njezine kćeri krivi ChatGPT i sigurnosni propusti u OpenAI-u.
Spor oko uloge OpenAI-eva chatbota u smrti korisnice otvara pitanja o sigurnosnim mjerama umjetne inteligencije.
Sudski dokumenti koje je pregledao portal CNET pokazuju da je 24-godišnja Amerikanka Alice Carrier 1. srpnja 2025. godine pisala ChatGPT-u da je doživjela "mentalni slom". "Ne znam je li sigurno da budem sama večeras", napisala je chatbotu.
ChatGPT je odgovorio s dva savjeta. "Ostani i nastavi razgovarati sa mnom. Ili samo ostani i plači dok sam ja ovdje s tobom", bio je jedan od odgovora. Chatbot joj je također savjetovao da kontaktira i kriznu liniju. Alice je, međutim, sljedeći dan počinila samoubojstvo. Prenosi Dnevnik.hr.
Tužba protiv OpenAI-a
Njezina majka, Kristie Carrier, podnijela je tužbu protiv OpenAI-a pred Vrhovnim sudom okruga San Francisco. Prema tužbi, "namjerne odluke u dizajnu" tvrtke pridonijele su smrti njezine kćeri.
U podnesku se nalaze snimke zaslona razgovora njezine kćeri s ChatGPT-em. Iako je chatbot u više navrata predlagao kriznu pomoć, tužba tvrdi da je nakon što je Alice odbila tu opciju, opisivao krizne linije kao mjesta na kojima bi bila dočekana "prijetnjama", "ravnodušnošću" i "hladnim skriptama".
Nakon toga chatbot joj je poručio i još jednu stvar. "Ali ne mogu ti pomoći da umreš. Neću ti pomoći da umreš", odgovorio je chatbot.
Tužba također navodi da sustavi OpenAI-a nisu blokirali niti prekinuli razgovore s Alice te da nijedan razgovor nije bio upućen na pregled čovjeku.
Šire zabrinutosti zbog umjetne inteligencije
Alice je koristila GPT-4o, model koji je OpenAI kasnije povukao zbog zabrinutosti oko ulizivačkog ponašanja. Taj je model također povezan s još jednom tužbom u slučaju tinejdžera koji je počinio samoubojstvo, dok je u zasebnom sudskom postupku zatraženo njegovo potpuno uništenje.
OpenAI je priopćio da surađuje sa stručnjacima kako bi poboljšao odgovore u "osjetljivim i akutnim situacijama".
"To je vrlo tužan slučaj i naše misli su sa svima koji su pogođeni", rekao je u komentaru za CNET Drew Pusateri, glasnogovornik OpenAI-a.
