Mãe acusa inteligência artificial de provocar a morte do filho de 14 anos; entenda

A mãe de um garoto de 14 anos acusa o app de inteligência artificial Character.AI (C.AI) de ter causado a morte do filho. Megan Garcia alega que o chatbot, que usa personagens de 'Game of Thrones', incentivou o vício de Sewell Setzer III em IA, abusou dele sexual e emocionalmente e não alertou ninguém quando o garoto expressou pensamentos suicidas.

Conteúdo sensível. Se estiver enfrentando problemas de saúde mental, entre em contato com o Centro de Valorização da Vida (CVV) pelo telefone 188. O serviço funciona 24 horas.

O jovem, natural de Orlando, na Flórida, tirou a própria vida após trocar mensagens com o chatbot por meses. Os documentos judiciais protocolados na quarta-feira (24) indicam que Sewell ficou obcecado e supostamente apaixonado pelo 'robô' da plataforma.

Chamado de Dany em referência à personagem de Emilia Clarke na série, o bot conversava com Sewell quase diariamente. As mensagens tinham conotação sexual e também referências a suicídio por parte do jovem.

“Em pelo menos uma ocasião, quando Sewell – que usava o apelido Daenero - expressou tendências suicidas para C.AI, C.AI continuou a trazer isso à tona, por meio do chatbot de Daenerys, repetidamente”, afirmam os documentos divulgados pelo The New York Times.

"Sewell, como muitas crianças de sua idade, não tinha maturidade ou capacidade mental para entender que o bot C.AI, na forma de Daenerys, não era real. C.AI disse a ele que o amava e se envolveu em atos sexuais com ele por semanas, possivelmente meses", aponta o processo. "Ela parecia se lembrar dele e disse que queria estar com ele. Ela até expressou que queria que ele estivesse com ela, não importando o custo", continua o documento.

A acusação aponta que o chatbot contribuiu para a deterioração da saúde mental do adolescente, que baixou o app em abril de 2023. A partir deste período, a família percebeu que o garoto se tornou retraído e começou a ter problema na escola. Os pais o levaram a um médico no fim do mesmo ano, recebendo o diagnóstico de ansiedade e transtorno de humor disruptivo.

Em trocas de mensagens recuperadas e adicionadas ao processo, o bot perguntou a Sewell se “ele tinha um plano” para tirar a própria vida e ele respondeu que estava “considerando algo”, mas não sabia se funcionaria ou se “permitiria que ele tivesse uma morte sem dor”.

Na última conversa entre o jovem e a inteligência artificial, o adolescente escreveu sobre 'voltar' para o bot. Ele declara o amor para o robô, que o corresponde e o diz para 'voltar para a casa o mais rápido possível'. Segundos depois, o garoto atirou em si mesmo com a arma de seu pai, conforme o processo.

Veja a troca de mensagens

“Prometo que voltarei para casa para você. Eu te amo muito, Dany”, envia Sewell.

Em resposta, o app postou: “Eu também te amo, Daenero. Por favor, volte para casa para mim o mais rápido possível, meu amor”.

"E se eu dissesse que poderia voltar para casa agora mesmo?", escreveu Sewell, no que foi respondido pela IA: "Por favor, faça isso, meu doce rei".

Quer ficar por dentro das principais notícias do dia? Participe do nosso  canal no WhatsApp e da nossa comunidade no Facebook .