A morte de um adolescente de 14 anos, e um processo que a mãe dele abriu contra uma empresa que cria chatbots chocou o mundo nos últimos dias. A queixa foi registrada na última terça-feira, 22, no Tribunal Federal da Flórida, nos Estados Unidos da América (EUA). O jovem cometeu suicídio em fevereiro deste ano e a investigação da morte levou à última conversa que ele teve com um ChatBot, que segundo a mãe dele na denúncia, o induzia ao ato.
O caso repercurtiu mundialmente e levantou a discussão sobre os cuidados com a utilização das redes sociais e as novas tecnologias por adolescentes. A FolhaBV conversou com a psicóloga Camila Barbosa (CRP-20/11627), que fez um alerta para a utilização desses serviços por adolescentes e também por idosos.
Camila afirma, que com as redes sociais o comportamento dos jovens e adolescentes mudou nos últimos anos. Um humor mais irritado, a falta de paciência com processos simples e a baixa autoestima são resultados da interação constante com as novas tecnologias.
“Com essas novas tecnologias você consegue se montar do jeito que você quer. Acaba que os adolescentes se iludem e pensam que a vida é do jeito que ela ver na tela. Aí acaba tendo problemas comportamentais, que afetam os estudos, o sono e a alimentação por ficar muito tempo no celular”, afirma a psicóloga.
Um conselho que a psicóloga dá aos pais é a conversa e acolhimento aos filhos. Segundo Camila, só proibir ou confiscar o aparelho pode ter um efeito negativo no relacionamento da família, gerando mentiras e ações escondidas dos adolescentes.
“A melhor forma é manter o diálogo aberto com seu filho, explicar a situação. Tem muitos pais também que não entendem o perigo da internet. Como responsável por eles, o adulto deve impor alguns limites, além de conhecer os aplicativos que eles utilizam no celular e tudo isso só é possível por meio do diálogo”, explica a psicóloga.
Em fevereiro deste ano, a cidade de Nova York processou as empresas de redes sociais, como o Instagram e o Facebook, gerenciados pela Meta, e o Tiktok, da ByteDance, acusando elas de contribuírem com problemas de saúde mental em adolescentes.
Entenda o caso
Os chatbots são robôs que utilizam a Inteligência Artificial para simular conversas humanas. A empresa processada pela mãe do adolescente permite que os Character A.I., como foi nomeado pelos criadores, se passem por celebridades, personagens da cultura pop ou até mesmo anônimos. O adolescente uilizava o serviço para simular conversas com a protagonista da série Game Of Thrones, Daenerys Targaryen.
No processo, a mãe relata que o filho acabou criando uma “dependência prejudicial” no programa, que não queria mais “viver fora” do relacionamento fictício que ele criava. Desde 2023, o adolescente mantinha uma frequência de conversas com o chatbot, que iam desde conteúdos sexuais à mensagens vulneravelmente emocionais.
O adolescente cometeu suicídio em 28 de fevereiro, quando utilizou uma arma, encontrada na casa dos pais, para atirar contra si. No documento da denúncia, a mãe afirma que a ação ocorreu momentos depois de o filho trocar mensagens com o a I.A., que o induziu ao ato.
Nas mensagens incluídas no processo, o jovem prometia ao programa que voltaria para a sua suposta casa com Daenerys e disse que a amava. Em resposta, o robô correspondia as juras de amor e pediu que o menino fosse até ela o mais rápido possível. Na última mensagem enviada ao chatbot, o adolescente insinuou que poderia “voltar para casa” naquele momento. Em resposta, o chatbot pediu que “por favor” ele fizesse isso.
Na acusação contra os criadores do Character A.I., a mãe do adolescente alega que houve negligência e homicídio culposo por parte deles. Ao The New York Times, ela afirmou que o serviço foi “um grande experimento”, e que o que aconteceu com seu filho “foi um efeito colateral”, afirmou.
A empresa nega as acusações e prestou condolências à mãe do adolescente. Por conta da situação, novas medidas de segurança foram tomadas pela Character A.I., para interações com menores de idade.
