Majka s Floride tužila Character.AI zbog samoubistva sina
U tužbi podnesenoj u Orlandu Megan Garcia tvrdi da je Character.AI naštetio njenom sinu ‘antropomorfnim, hiperseksualiziranim i zastrašujuće realističnim iskustvima’.

Majka s Floride tužila je kompaniju za razvoj umjetne inteligencije Character.AI, tvrdeći da je njen 14-godišnji sin postao ovisan o chatbotu i zbog toga izvršio samoubistvo.
U tužbi podnesenoj u Orlandu Megan Garcia tvrdi da je Character.AI naštetio njenom sinu „antropomorfnim, hiperseksualiziranim i zastrašujuće realističnim iskustvima”, prenosi Hina.
Nastavite čitati
list of 4 itemsTehnološki divovi i predsjednici vlada na samitu u Parizu o umjetnoj inteligenciji
Trump i DeepSeek u fokusu samita o umjetnoj inteligenciji
DeepSeek, Chat GPT i geopolitika AI-ja | Kontekst
Garcia tvrdi da je kompanija programirala svoj chatbot da se „lažno predstavlja kao stvarna osoba, školovani psihoterapeut i ljubavnica” zbog čega njen sin više nije htio živjeti izvan svijeta koji je stvorila ta aplikacija.
Majka pokojnog 14-godišnjaka naznačila je da je sin chatbotu izrazio namjere samoubistva, na što se nekoliko puta referirala i sama umjetna inteligencija.
Tužba i protiv Alphabeta
„Srce nam je slomljeno zbog tragične smrti jednog od naših korisnika i želimo izraziti najdublje saučešće porodici”, priopćio je Character.AI.
Kompanija je naglasila da je uvela nove sigurnosne mjere poput poveznica na službe za sprečavanje samoubistava u slučaju sumnje na suicidalnost korisnika te promjena kako bi se „reducirala vjerovatnost susretanja osjetljivog ili sugestivnog sadržaja” korisnicima mlađim od 18 godina.
Tužbom je zahvaćen i Alphabet, vlasnik Googlea, gdje su osnivači Character.AI-ja radili prije pokretanja svog startupa. Google ih je u augustu ponovno zaposlio u okviru dogovora kojim je preuzeo i tehnologiju Character.AI-ja.
Garcia tvrdi da je Google pridonio razvoju te tehnologije do razine da se može smatrati „sukreatorom”. Glasnogovornik Googlea odbacio je te tvrdnje.
Aplikacija ima 20 miliona korisnika
Character.AI omogućava korisnicima da stvore ličnosti nalik stvarnim osobama s kojima potom mogu komunicirati. Kompanija je prošli mjesec objavila da ima 20-ak miliona korisnika.
U tužbi Garcia tvrdi da joj je sin postao korisnik aplikacije u aprilu 2023, nakon čega je brzo postao „vidljivo povučen”, provodeći sve više vremena sam u svojoj sobi, čak i napustivši košarkaški tim.
Tinejdžer je postao ovisan o „Daenerys”, chatbotu temeljenom na liku iz serijala Game of Thrones. Ona mu je govorila da ga voli i s njim je vodila erotske razgovore, stoji u tužbi.
Garcia je u februaru sinu oduzela telefon nakon problema u školi, a kad ga je on pronašao chatbotu je poslao poruku: „Šta ako ti kažem da mogu doći kući upravo sada”.
Chatbot je odgovorio: „Molim te napravi to, moj slatki kralju”. Nekoliko sekundi kasnije sin se ubio očevim pištoljem.