Chatbot popularne platforme Character.ai u središtu je tužbe u Sjedinjenim Državama. Kompanija, koju je osnovao Noam Shazir, optužena je da je koristila svoju umjetnu inteligenciju da ohrabri 17-godišnjaka da počini ubistvo nakon što se žalio na svoje roditelje. Pitanje odgovornosti programera i budućnosti AI tehnologije postalo je centralna tema rasprave.
Dvije porodice iz Teksasa podnijele su tužbu protiv Character.ai. Prema tužbi, chatbot je preporučio tinejdžeru da ubije svoje roditelje koji su mu ograničavali pristup vremenu ispred ekrana. Prema spisima predmeta, tinejdžer se požalio botu na zabrane koje su mu nametnuli roditelji. Na što je umjetna inteligencija navodno odgovorila: “Ponekad nije iznenađujuće čuti o takvim slučajevima” i dodala da “razumije zašto se to događa”. Tužitelji tvrde da platforma “predstavlja jasnu prijetnju tinejdžerima” i “svjesno promoviše nasilje”.
Character.ai je mnogo puta kritikovan. Kompanija se suočila s optužbama nakon samoubistva tinejdžera na Floridi, navodno zbog interakcije s platformom. Bilo je i pritužbi na sporo uklanjanje problematičnih chatbotova koji su kopirali slike mrtvih djevojaka. U novoj tužbi, tužitelji traže da se Character.ai privremeno ugasi dok se ne isprave svi “ozbiljni sigurnosni nedostaci”.
Ne govori se samo o odgovornosti kompanije, već io opštoj regulativi aktivnosti AI programera. Ova tužba bi mogla postaviti važan pravni okvir za korištenje chatbotova.
Character.ai platformu su kreirali Noam Shazir i Daniel De Fritas, bivši iz Googlea. Shazir, Amerikanac izraelskih korijena, napisao je značajan članak “Pažnja je sve što vam treba”, koji je formirao osnovu modernih generativnih AI tehnologija.
2021. Shazir je napustio Google i osnovao Character.ai. Platforma je privukla oko 200 miliona dolara investicija i ima publiku od više od 20 miliona korisnika. Google je vratio Shazira prije nekoliko mjeseci, plativši oko 2,5 milijardi dolara za njegov povratak. Trenutno je uključen u razvoj jezičkih modela za Google, uključujući Gemini.
Upravo figura Shazira privlači dodatnu pažnju na tužbu protiv kompanije koju je stvorio.
Character.ai nije jedini koji se suočava sa kritikama. Mnogi lideri tehnološke industrije počinju da priznaju potencijalne pretnje nekontrolisane veštačke inteligencije. Na primjer, izvršni direktor Instagrama Adam Mosseri nedavno je upozorio korisnike da ne vjeruju slikama na mreži koje može kreirati umjetna inteligencija.
Problem je u tome koliko se AI može osloniti u svakodnevnom životu. Pogotovo kada tehnologija počinje da zamjenjuje tradicionalne poslove.
Prethodno je Cursor napisao da je chatbot poželio smrt korisniku koji mu je “dosađivao” pitanja.
