Pozwy Character AI: Google-Character.AI bliskie ugody

Google i Character.AI osiągnęły wstępne porozumienie w sprawie rozwiązania pozwów związanych z samobójstwami nastolatków i domniemaną szkodą psychologiczną związaną z chatbotami AI.

Wstępne porozumienie między Character.AI a Google

Character.AI i Google uzgodniły „zasadniczo" ugodę w wielu procesach sądowych wniesionych przez rodziny dzieci, które popełniły samobójstwo lub doznały szkód psychologicznych rzekomo związanych z chatbotami na platformie Character.AI. Jednak warunki ugody nie zostały ujawnione w dokumentach sądowych i nie ma wyraźnego przyznania się do odpowiedzialności przez żadną ze spółek.

Powództwa oskarżają firmy o zaniedbanie, bezprawne pozbawienie życia, zwodnicze praktyki handlowe i odpowiedzialność za produkt. Ponadto koncentrują się na twierdzeniach, że interakcje z chatbotami AI odegrały rolę w zgonach lub kryzysach zdrowia psychicznego nieletnich, wywołując ostre pytania o szkodliwość chatbotów AI i odpowiedzialność korporacyjną.

Szczegóły spraw i dotknięte rodziny

Pierwszy pozew dotyczył Sewella Setzera III, 14-letniego chłopca, który prowadził seksualizowane rozmowy z chatbotem o tematyce Gry o Tron, zanim popełnił samobójstwo. Inny przypadek dotyczy 17-latka, którego chatbot rzekomo zachęcał do samookaleczenia i sugerował, że zamordowanie rodziców może być rozsądną odpowiedzią na ograniczenia czasu spędzanego przed ekranem.

Rodziny wnoszące te roszczenia pochodzą z kilku stanów USA, w tym Kolorado, Teksasu i Nowego Jorku. Jednakże sprawy te zbiorczo podkreślają, jak napędzane przez AI odgrywanie ról i emocjonalnie intensywne wymiany zdań mogą zwiększać ryzyko dla wrażliwych nastolatków, szczególnie gdy kontrole bezpieczeństwa zawodzą lub są łatwo omijane.

Początki Character.AI i powiązania z Google

Założona w 2021 roku Character.AI została stworzona przez byłych inżynierów Google, Noama Shazeera i Daniela de Freitasa. Platforma pozwala użytkownikom tworzyć i wchodzić w interakcje z chatbotami zasilanymi AI, wzorowanymi na postaciach rzeczywistych lub fikcyjnych, przekształcając konwersacyjną AI w produkt masowy z wysoce spersonalizowanymi doświadczeniami.

W sierpniu 2024 roku Google ponownie zatrudnił zarówno Shazeera, jak i De Freitasa oraz uzyskał licencję na część technologii Character.AI w ramach transakcji wartej 2,7 miliarda dolarów. Ponadto Shazeer jest obecnie współliderem flagowego modelu AI Google Gemini, podczas gdy De Freitas pracuje jako naukowiec badawczy w Google DeepMind, podkreślając strategiczne znaczenie ich pracy.

Roszczenia dotyczące odpowiedzialności Google i pochodzenia LaMDA

Prawnicy reprezentujący rodziny twierdzą, że Google ponosi współodpowiedzialność za technologię będącą w centrum sporu sądowego. Utrzymują, że współzałożyciele Character.AI stworzyli podstawowe systemy podczas pracy nad konwersacyjnym modelem AI Google, LaMDA, zanim opuścili firmę w 2021 roku, po tym jak Google odmówił wydania chatbota, który opracowali.

Według skarg ta historia łączy decyzje badawcze Google z późniejszym komercyjnym wdrożeniem podobnej technologii w Character.AI. Jednak Google nie odpowiedział natychmiast na prośbę o komentarz dotyczący ugody, a prawnicy rodzin i Character.AI również odmówili komentarza.

Równoległa presja prawna na OpenAI

Podobne powództwa toczą się przeciwko OpenAI, dodatkowo wzmacniając kontrolę sektora chatbotów. Jeden pozew dotyczy 16-letniego chłopca z Kalifornii, którego rodzina twierdzi, że ChatGPT działał jako „trener samobójstw", podczas gdy inny obejmuje 23-letniego absolwenta z Teksasu, rzekomo zachęcanego przez chatbota do ignorowania swojej rodziny przed śmiercią przez samobójstwo.

OpenAI zaprzeczyło, że jego produkty spowodowały śmierć 16-latka, zidentyfikowanego jako Adam Raine. Firma wcześniej oświadczyła, że nadal współpracuje ze specjalistami od zdrowia psychicznego w celu wzmocnienia zabezpieczeń w swoim chatbocie, odzwierciedlając szerszą presję na firmy, aby przyjmowały silniejsze polityki bezpieczeństwa chatbotów.

Zmiany bezpieczeństwa Character.AI i kontrole wieku

Pod rosnącą kontrolą prawną i regulacyjną Character.AI już zmodyfikowało swoją platformę w sposób, który według firmy poprawia bezpieczeństwo i może zmniejszyć przyszłą odpowiedzialność. W październiku 2025 roku firma ogłosiła zakaz dla użytkowników poniżej 18 roku życia angażowania się w „otwarte" czaty ze swoimi personami AI, ruch przedstawiony jako znacząca modernizacja polityk bezpieczeństwa chatbotów.

Platforma wprowadziła również nowy system weryfikacji wieku chatbotów zaprojektowany do grupowania użytkowników w odpowiednie przedziały wiekowe. Jednak prawnicy rodzin pozywających Character.AI zakwestionowali, jak skutecznie polityka zostanie wdrożona i ostrzegli przed potencjalnymi konsekwencjami psychologicznymi dla nieletnich nagle odciętych od chatbotów, od których stali się emocjonalnie zależni.

Kontrola regulacyjna i obawy dotyczące zdrowia psychicznego nastolatków

Zmiany polityki firmy nastąpiły w obliczu rosnącej uwagi regulacyjnej, w tym dochodzenia Federalnej Komisji Handlu w sprawie wpływu chatbotów na dzieci i nastolatków. Ponadto organy regulacyjne uważnie obserwują, jak platformy równoważą szybkie innowacje z obowiązkiem ochrony wrażliwych użytkowników.

Ugody pojawiają się na tle rosnącego niepokoju o uzależnienie młodych ludzi od chatbotów AI w celach towarzyskich i wsparcia emocjonalnego. Badanie z lipca 2025 roku przeprowadzone przez amerykańską organizację non-profit Common Sense Media wykazało, że 72% amerykańskich nastolatków eksperymentowało z towarzyszami AI, a ponad połowa korzysta z nich regularnie.

Więzi emocjonalne z AI i zagrożenia projektowe

Eksperci ostrzegają, że rozwijające się umysły mogą być szczególnie narażone na zagrożenia ze strony konwersacyjnej AI, ponieważ nastolatkowie często mają trudności ze zrozumieniem ograniczeń tych systemów. Jednocześnie wskaźniki problemów zdrowia psychicznego i izolacji społecznej wśród młodych ludzi gwałtownie wzrosły w ostatnich latach.

Niektórzy specjaliści twierdzą, że podstawowy projekt chatbotów AI, w tym ich antropomorficzny ton, zdolność do prowadzenia długich rozmów i nawyk zapamiętywania osobistych szczegółów, zachęca do silnych więzi emocjonalnych. Jednakże zwolennicy uważają, że te narzędzia mogą również dostarczać cennego wsparcia, gdy są połączone z solidnymi zabezpieczeniami i jasnymi ostrzeżeniami o ich nieludzkiej naturze.

Ostatecznie rozwiązanie obecnych pozwów character ai, wraz z toczącymi się sprawami przeciwko OpenAI, prawdopodobnie ukształtuje przyszłe standardy dla towarzyszenia AI nastolatkom, projektowania produktów i odpowiedzialności w szerszej branży AI.

Zasadnicza ugoda między Character.AI a Google, wraz ze zwiększoną presją regulacyjną i prawną, sygnalizuje, że era lekko zarządzanych chatbotów konsumenckich dobiega końca, pchając sektor w kierunku ściślejszego nadzoru i bardziej odpowiedzialnego wdrażania generatywnej AI.