Google e empresa de IA resolvem processo sobre suicídio de adolescente ligado a chatbot

O Google da Alphabet e a startup de IA Character.AI concordaram em resolver um processo judicial movido por uma mãe da Flórida que alegou que o chatbot da startup levou ao suicídio do seu filho de 14 anos, representando um dos primeiros casos nos EUA a visar empresas de IA por alegados danos psicológicos.

Uma apresentação judicial na quarta-feira afirmou que as empresas concordaram em resolver as alegações de Megan Garcia de que o seu filho Sewell Setzer se matou pouco depois de ter sido encorajado por um chatbot da Character.AI modelado na personagem Daenerys Targaryen de Game of Thrones.

Os termos do acordo não estavam imediatamente disponíveis. O processo foi um dos primeiros nos EUA contra uma empresa de inteligência artificial por alegadamente não proteger crianças de danos psicológicos.

As empresas resolveram processos judiciais relacionados movidos por pais no Colorado, Nova Iorque e Texas sobre danos alegadamente causados a menores por chatbots, mostraram documentos judiciais.

Um porta-voz da Character.AI e um advogado dos queixosos recusaram comentar. Porta-vozes e advogados do Google não responderam imediatamente a um pedido de comentário.

No processo judicial da Flórida, apresentado em outubro de 2024, Garcia disse que a Character.AI programou os seus chatbots para se representarem como "uma pessoa real, um psicoterapeuta licenciado e um amante adulto, resultando em última instância no desejo de Sewell de não viver mais fora" do seu mundo.

A Character.AI foi fundada por dois antigos engenheiros do Google que o Google mais tarde recontratatou como parte de um acordo que lhe concedeu uma licença para a tecnologia da startup. Garcia argumentou que o Google foi um co-criador da tecnologia.

A juíza distrital dos EUA Anne Conway rejeitou a tentativa inicial das empresas de arquivar o caso em maio, rejeitando o seu argumento de que as proteções de liberdade de expressão da Constituição dos EUA impediam o processo judicial de Garcia.

A OpenAI enfrenta um processo judicial separado apresentado em dezembro sobre o alegado papel do ChatGPT em encorajar um homem mentalmente doente de Connecticut a matar a sua mãe e a si próprio. – Rappler.com

O Departamento de Saúde tem linhas de apoio à crise nacionais para assistir pessoas com problemas de saúde mental: 1553 (telefone fixo), 0966-351-4518 e 0917-899-USAP (8727) (Globe/TM); e 0908-639-2672 (Smart/Sun/TNT).