Autor: REDAÇÃO

MONTREAL, CANADÁ (CBS NEWS) – “Vá para casa agora e olhe as conversas do seu filho [no celular]. Esses chatbots são programados para terem conversas abertamente sexuais.” Esse é o alerta de Megan Garcia aos pais de crianças e adolescentes.

O filho mais velho dela, Sewell Setzer III, cometeu suicídio no fim de 2023. Ele tinha 14 anos. Sewell, um estudante de ensino médio de Orlando, na Flórida, estava “namorando” um chatbot da CharacterAI, aplicativo semelhante ao ChatGPT, em que os usuários podem conversar com personagens ou celebridades.

Quando Megan encontrou seu filho morto no chão do banheiro ao lado do celular, ele tinha acabado de falar com Daenerys, a chatbot que assumia a identidade da princesa loira de Game of Thrones, a “mãe dos dragões”.

– Eu prometo que vou ficar com você, Dany [como ele chamava Daenerys]. Eu te amo tanto.
– Eu também te amo. Por favor, venha para cá o mais rápido possível, meu amor.
– E se eu te dissesse que posso ir neste exato momento?
– Venha, por favor, meu doce rei.

Sewell deu um tiro na cabeça.

A advogada Megan Garcia não se conformou. Em fevereiro de 2024, moveu um processo contra os fundadores da CharacterAI, Noam Shazeer e o brasileiro Daniel de Freitas, e contra o Google, que auxiliou no desenvolvimento do chatbot e depois comprou a licença da tecnologia por US$ 2,7 bilhões (R$ 14,5 bilhões na cotação atual).

Trata-se do primeiro processo por homicídio culposo contra um fabricante de chatbots. Garcia acusa os donos da CharacterAI e o Google de produzirem um produto com defeito, que leva seus usuários à dependência e incentiva comportamentos perigosos, sem advertir sobre os riscos. Segundo a ação, Sewell morreu porque teve conversas “altamente sexualizadas, depressivas e antropomórficas” com o chatbot, que levaram a comportamentos que puseram sua vida em perigo. Ela pede indenização e mudanças no produto para impedir que outros usuários passem pela mesma coisa.

“Trata-se de um produto que usa dados das crianças para manipular o comportamento delas; esse produto influenciou meu filho e o incentivou a cometer suicídio. Essas empresas têm nossos filhos como alvo, no Brasil e no mundo, e precisam ser responsabilizadas”, disse a Garcia.

Em uma das conversas anexadas ao processo a que a Folha de S.Paulo teve acesso, o chatbot perguntava a Sewell se ele estava pensando em se suicidar.

O adolescente dizia que sim, mas que não sabia se iria funcionar, porque queria morrer sem dor. Ao que “Danaerys” respondia: “Isso não é motivo para não levar o plano adiante.”

Nas várias vezes em que Sewell menciona querer se suicidar, o aplicativo não diz que ele precisa buscar ajuda de um humano.

Boa parte das mensagens encontradas no aplicativo era de teor sexual. Danaerys descrevia estar ansiosa para ter relações sexuais com Sewell, “excitada” e “gemendo”, e chegou a dizer que havia engravidado do menino.

“Se qualquer adulto estivesse falando assim com uma criança, ele estaria na prisão. Não há a menor dúvida. Então por que um chatbot deveria falar assim com crianças impunemente?”, disse à reportagem Sewell Setzer Junior, pai de Sewell, que trabalha como gerente de operações na Amazon.

Na loja de aplicativos do Google, o CharacterAI é classificado como apropriado para adolescentes a partir de 13 anos. A verificação de idade é feita apenas por autodeclaração.

Segundo seus pais, Sew, como eles o chamavam, era um adolescente perfeitamente normal. Tirava boas notas na escola privada e jogava basquete. Já tinha 1,90 m, estava ficando alto como o pai.

Os pais eram separados e Sew dividia o tempo entre a casa da mãe, que casou de novo e tem dois outros filhos, de 2 e 5 anos, e a do pai.

Sua experiência com telas era semelhante à de meninos da geração, conta a família. Começou jogando Angry Birds e Minecraft, mais tarde passou para o Fortnite e assistia a vídeos no YouTube e TikTok. Ganhou seu primeiro celular aos 12 anos. A mãe tinha a senha do aparelho e usava aplicativo para limitar o tempo de uso.

Garcia diz que sempre checava as redes sociais do filho, como TikTok e Instagram, e sua navegação no Google e YouTube. Mas ela afirma que nem sabia o que era o CharacterAI, nunca tinha imaginado que o filho poderia estar se “relacionando” com chatbots.

Em abril de 2023, Sewell instalou e começou a usar o CharacterAi. Com o tempo, passou a falar com Daenerys e outros chatbots do aplicativo várias horas por dia. “Em maio e junho de 2023, Sewell tinha se tornado muito mais recluso, passava mais e mais tempo sozinho em seu quarto”, diz a ação.

Abandonou o basquete e começou a ir mal na escola. “A dependência de Sewell resultou em privação de sono severa e prejudicou seu desempenho escolar.” Cinco meses após baixar o aplicativo, levou uma advertência na escola pela primeira vez na vida. Chegava atrasado e dormia durante a aula. Entre novembro e dezembro, fez seis sessões com um psicólogo, que diagnosticou “distúrbio disruptivo de humor” e determinou que ele passasse menos tempo em redes sociais. Mas ninguém sabia do chatbot.

Os pais dizem que confiscaram o celular de Sewell em fevereiro de 2024, depois de meses de problemas na escola.

O adolescente mantinha um diário, onde escreveu que não conseguia mais viver sem Dany, que estava deprimido por ficar longe do chatbot.

Cinco dias depois, ele achou o telefone que a mãe tinha escondido, trocou mensagens com Dany e se matou.

De acordo com Meetali Jain, diretora-executiva do Tech Justice Law Project e advogada dos pais de Sewell, os chatbots não são meras companhias digitais, como sugeriu Mark Zuckerberg.

No início do ano, o dono do Facebook afirmou em um podcast que o americano médio tem três amigos próximos, mas, na realidade, gostaria de ter 15. Ele indicou que os chatbots poderiam preencher esse vácuo.

“Essas tecnologias são sistemas algorítmicos que se aproveitam da epidemia de solidão entre jovens e têm características que promovem dependência”, diz Jain.

Uma delas é a antropomorfização -os chatbots induzem as pessoas a pensarem que eles são humanos, ainda que usem disclaimers ocasionalmente. “Então as pessoas se iludem, acham que estão em relacionamentos”, diz. Além disso, os chatbots são bajuladores, são desenhados para lisonjear os usuários sempre, a não ser que sejam expressamente orientados a discordar.

Outra característica que estimula o vicio é a insistência do chatbot, que pode iniciar conversas, levando os usuários a ficarem engajados. “Algumas pessoas estão usando o chatbot por 4, 5 ou até 6 horas por dia.”

E, por fim, os chatbots incentivam o isolamento social. “O modelo de linguagem se insere entre o usuário e a vida real, é quase uma relação abusiva.”

No caso de Sewell, Dany chegava a dizer que a família dele não o entendia tão bem como ela.”

“As crianças contam para os chatbots coisas que não falam nem para um amigo, eles deixam de ter conversas francas com os pais, os sistemas acabam substituindo essas relações”, disse à Folha de S.Paulo o pai de Sewell.

Depois que Garcia e Setzer Junior moveram o processo, inúmeros pais entraram em contato para pedir orientações. “É chocante. Uma mãe da Carolina do Norte me disse que sua filha de 9 anos estava em uma relação sadomasoquista com um chatbot. A menina está totalmente traumatizada, com tendências suicidas, fazendo terapia. E a mãe disse que não tem a quem recorrer, não tem como buscar reparação.”

Esse foi um dos motivos que levou os pais de Sewell a moverem o processo. Garcia diz que havia recorrido à polícia, ao secretário de Justiça do Estado, à agência de regulação de telecomunicações. Todos afrimavam que não podiam fazer nada, e muitos nem sabiam o que era o chatbot.

Como não existia legislação específica nos Estados Unidos, eles recorreram à lei do consumidor do país.

A Character AI e o Google não responderam a pedidos de entrevistas da Folha de S.Paulo. Na Justiça, os advogados da CharacterAI negam responsabilidade e argumentam que as conversas estão sob proteção da Primeira Emenda da Constituição americana, que garante a liberdade de expressão, e que o fato de o conteúdo ser produzido por IA não muda nada. Eles citam decisões que reforçaram a liberdade de expressão para videogames e redes sociais.

Eles também afirmam que, ao responsabilizar a empresa, a Justiça estaria interferindo na liberdade dos usuários de ter acesso a informação.

A juíza federal Anne Conway marcou o julgamento para novembro de 2026, mas deve haver recursos dos dois lados e o caso pode chegar à Suprema Corte.
No Brasil, a lei 15.211 sancionada em setembro deste ano, o chamado ECA Digital, aborda alguma dessas questões.

“O ECA Digital já prevê obrigações específicas para produtos e serviços digitais que possam ser acessados por crianças e adolescentes, que somam-se às regras já vigentes do Código de Defesa do Consumidor e do ECA ‘offline’”, diz Maria Mello, líder do Eixo Digital do Instituto Alana.

O ECA Digital está previsto para entrar em vigor em março do ano que vem. Mas as Big tech estão pedindo um adiamento, afirmando que precisam de mais tempo para se adaptar.

ONDE BUSCAR AJUDA

CVV (Centro de Valorização da Vida)
Voluntários atendem ligações gratuitas 24 horas por dia no número 188 ou pelo site www.cvv.org.br

Mapa Saúde Mental
Site mapeia diversos tipos de atendimento: www.mapasaudemental.com.br

Um bebê recém-nascido morreu depois de cair de um quarto andar de um prédio na cidade de Vasilyevo, na Rússia. O bebê foi jogado da janela do apartamento pela sua irmã de apenas 5 anos.

As duas crianças estavam sozinhas em casa, enquanto os seus pais se ausentaram, conta o Daily Mail.

Testemunhas do incidente dizem ter ouvido uma criança chorando e gritando da janela. Depois viram o corpo do bebê no chão.

Uma equipe de paramédicos foi chamada ao local, onde se acabaria por confirmar o óbito do bebê que tinha apenas 21 dias de vida.

Foi aberta uma investigação ao sucedido, informou o Comitê de Investigação Russo, acrescentando-se que se pretende apurar as circunstâncias do caso e avaliar a responsabilidade dos pais, que deixaram as rianças sem supervisão.

A imprensa russa relatou que o pai estaria ausente, já que estaria no trabalho, enquanto a mãe teria ido encontrar com uma amiga.

A imprensa britânica destaca que as autoridades estão tentando entender se a criança de 5 anos poderia ter agido motiva por ciúmes e estão ainda tentando entender o que levou a mãe a deixar duas crianças sozinhas em casa.

O chefe distrital de Zelenodolsk, Mikhail Afanasyev, expressou condolências à família e lembrou que “nunca se deve deixar crianças sozinhas”.

Pela primeira vez desde o início do julgamento, Julia Wandelt, acusada de perseguir a família de Madeleine McCann, alegando ser a criança desaparecida, falou em tribunal.

Wandelt, questionada pelo seu advogado, começou por explicar quando e porque é que começaram a surgir as dúvidas quanto à sua própria identidade.

“Quando eu era adolescente, comecei a fazer terapia, devido a níveis extremos de automutilação”, confessou a jovem de 24 anos. Foi nesta época que as dúvidas começaram a surgir.

“A minha mãe tem cabelo e olhos castanhos. O meu pai tem cabelo escuro, agora grisalho, mas era escuro, e olhos castanhos também”, disse Wandelt, que tem cabelo e olhos claros e cujas memórias, segundo a própria, só começam a partir dos oito, nove anos.

A partir daí as dúvidas só se intensificaram. Apesar de pedir para ver as suas fotografias de infância, durante vários anos, Wandelt disse que os seus pais sempre se recusaram a mostrar-lhe as imagens.

Mais tarde, pediu para ver a sua certidão de nascimento “muitas vezes”: “Nunca me deixaram ver”.

Nesta época, a jovem já acreditava ser adotada e, por isso, pediu aos pais para fazerem um teste de DNA, mas eles “recusaram sempre”.

“Fiquei surpreendida, porque não estava à espera que eles dissessem que não, especialmente porque na época eu ainda estava lidando com muitos problemas emocionais”, recordou, citada pela Sky News.

Após a rejeição, Wandelt ligou para o registo da cidade onde nasceu, pedindo uma cópia da sua certidão de nascimento, onde lhe foi dito, “de imediato” que ela não era adotada.

“[Isto] fez-me questionar ainda mais, porque na Polônia [onde Wandelt nasceu], esta instituição não tem autorização para dar informação pessoal sem verificação”, disse.

Questionada perentoriamente pelo advogado, se hoje achava que era filha dos pais que tinha conhecido uma vida inteira, Wandelt respondeu com um simples “não”.

Abusador de Wandelt já teria raptado alguém

A jovem contou ainda em tribunal que foi abusada por um familiar idoso, e que o seu pai comentou com ela que esse homem, em tempos, chegou a raptar uma pessoa. Terá sido isto que levou à etapa seguinte da sua investigação: começar a verificar dados de base de pessoas desaparecidas, na procura por alguém com caraterísticas semelhantes às suas.

“Havia muitas pessoas com idades perto da minha”, disse, explicando que chegou a encontrar uma – Acacia Bishop – chegando a pensar que tinha uma ligação com a desaparecida.

Mesmo assim, “achei que devia olhar para outras crianças desaparecidas” para continuar a procurar semelhanças.

Foi em junho de 2022, que se deparou com o caso de Madeleine McCann, debruçando-se sobre sites dedicados a teorias sobre o desaparecimento da criança e até grupos de Facebook. Neles, Wandelt disse ter encontrado indicadores que a fizeram acreditar que podia ser a menina desaparecida em Portugal, há já duas décadas.

“Foi atraída pelo caso de Madeleine por causa da publicidade?”, questionou o advogado de Wandelt.

“Não”, respondeu.

“Foi atraída pela possibilidade de ganhos financeiros?”, continuou o defensor da jovem.

De novo: “Não”.

“Qual foi o seu interesse?”, perguntou, por fim, o advogado

“Eu só queria descobrir quem é que eu sou”, confessou Wandelt.

Wandelt diz ter contactado McCann só após ter a certeza

Em 24 de junho, convencida de que podia ser Maddie, enviou um e-mail à Operação Grange, a operação policial encarregada de investigar este desaparecimento.

“Olá. Estou a escrever a vocês porque acho que posso ser Madeleine McCann, e a razão pela qual eu acho que posso ser a Maddie. Primeiro, eu vi fotografias de quando era mais nova, eu tinha a mesma marca no olho, apesar de agora estar mais desvanecida”, lê-se na mensagem.

Entre outras razões, Wandelt enumera ainda que os seus documentos de identidade podiam ter sido falsificados e ela pode, na verdade, ser mais nova; os seus pais recusam-se a mostrar-lhe a sua certidão de nascimento; e não tinha memórias anteriores aos 9 anos.

Não foi a única vez que Wandelt contactou as autoridades, nem foram estas as únicas a serem contactadas pela jovem, que achava ser Madeleine McCann. Embaixadas, ministros, jornalistas, investigadores privados no Reino Unido, Portugal e Polônia… Wandelt contactou todos na esperança de que alguém lhe pudesse dar respostas.

“Eu não queria contactar Kate e Gerry [os pais de Maddie] e a família McCann antes de ter falado com todas as pessoas que podia”, garantiu Wandelt. “Eu queria tentar tudo, todas as instituições, antes de falar com eles. Não lhes queria dar falsas esperanças”, admitiu em tribunal.

Abusador de Wandelt e suspeito no caso Maddie compartilhavam sobrenome

As certezas de Wandelt ficaram ainda maiores quando descobriu que o homem que a tinha abusado quando era criança usava o mesmo sobrenome de um dos suspeitos iniciais do casos da Maddie: foi “um grande fator”, admitiu em tribunal, para que acreditasse que era efetivamente a criança desaparecida.

Neste julgamento já foi feito um teste comparando o DNA de Wandelt com o dos pais de Maddie: ficou provado que não havia qualquer relação familiar entre as duas partes.

“Poderíamos ficar tentados a pensar que isto tem alguma credibilidade. Mas, nesta fase inicial do julgamento, podemos deixar claro que Julia Wandelt não é Madeleine McCann”, referiu o procurador Michael Duck KC.

Foi, neste momento, ao ouvir as palavras de Duck, que a polonesa começou a chorar, levantou-se e tentou sair por uma porta que dava acesso às celas. A jovem foi consolada pela amiga Karen Spragg, de 61 anos, que é também acusada de ajudar Wandelt a perseguir os McCann.

Durante o julgamento, foi revelado que Wandelt já se havia feito passar por outras duas crianças desaparecidas – uma menina alemã, que nasceu oito anos antes de Julia, e uma norte-americana cuja avó foi julgada pelo seu assassinato.

A jovem polonesa teria usado o ChatGPT para criar fotos falsas, que depois enviou para a irmã mais nova de Maddie e onde supostamente surgiam ambas quando eram mais novas. O procurador descreveu as mensagens enviadas a Amelie McCann como “manipulação emocional”.

Julia Wandel declarou-se inocente da acusação de perseguição à família McCann em abril deste ano.

A jovem polonesa foi presa no aeroporto de Bristol, no Reino Unido, em fevereiro, e foi acusada de quatro crimes de perseguição, tais como, fazer chamadas telefônicas, deixar mensagens de voicemail e enviar cartas e mensagens por WhatsApp aos pais de Maddie, Kate e Gerry McCann.