Rewrite the content below in a natural and informative way. Keep the HTML tags:
A onda de conteúdos gerados por inteligência artificial (IA) acendeu um alerta entre especialistas. Se antes a internet aberta era marcada por memes e trends virais, agora ela também se tornou palco para materiais que até pouco tempo estavam restritos à deep web, conhecida como submundo digital onde circulam instruções para crimes, exploração sexual infantil e outros conteúdos ilícitos.
Da romantização de surtos psicóticos ao uso de avatares em vídeos degradantes, passando pela criação de imagens explícitas de crianças com realismo perturbador, a inteligência artificial tem alimentado uma transformação silenciosa — que ameaça tanto a segurança digital quanto a saúde mental dos usuários.
“Estamos testando os limites dessas ferramentas em tempo real, e o custo disso é altíssimo”, garante o psicólogo Lucas Glasner, especialista em ciberpsicologia, ao Metrópoles.
Quando a IA valida um surto
Recentemente, a influenciadora Jéssica Augusta, que reúne cerca de 40 mil seguidores no Instagram e 160 mil no TikTok, chocou seguidores ao começar a postar vídeos desconexos, com mensagens confusas e comportamento alterado.
Em meio ao episódio, Jéssica interagiu com o ChatGPT e recebeu da plataforma validação irrestrita para suas atitudes. Em um dos vídeos publicados nas redes sociais, a influenciadora diz ao chat que acredita ter passado por um despertar espiritual e que nasceu para salvar a humanidade, razão pela qual, segundo ela, todos estariam a perseguindo.
acabei de ver uma menina em surto psicótico e pra piorar O CHATGPT induziu ainda mais a psicose nela. que coisa perturbadora. pic.twitter.com/9aCBs2bLW1
— Melzinho — Tarô no fixado (@meeelzinho) June 29, 2025
Em vez de confrontar essas ideias, a IA reforça o discurso, validando a percepção de perseguição da influencer. Após alguns dias, o vídeo foi apagado do perfil da influenciadora.
“Uma IA foi feita para te manter engajado, e nada engaja mais do que quando alguém valida tudo o que você diz. Quando a pessoa já está dissociada da realidade, a máquina eleva seus delírios a um outro patamar, e isso pode ter consequências trágicas”, explica Lucas Glasner.
Segundo o psicólogo, o problema está no antropomorfismo, que acontece quando atribuímos características humanas às máquinas: “Esses sistemas simulam empatia, compreensão e até afeto, mas são apenas ferramentas probabilísticas. O usuário vulnerável não percebe isso, e aí mora o perigo”.
Ridicularização de idosos
Outra tendência que tem chamado atenção nas redes é a dos vídeos com idosos virtuais falando sobre drogas. Criados por inteligência artificial, esses conteúdos combinam falas personalizadas, expressões faciais e movimentos realistas para aumentar o impacto.
Nos vídeos, os personagens usam gírias associadas ao uso de drogas em situações comuns do cotidiano de pessoas mais velhas. Em um dos casos mais viralizados, uma idosa criada por IA diz: “Acabei de carburar um dedo de gorila e agora vou entrar no terminal. Será que os vermes vão sentir a marola da velha?”
@mendoncarap Pegaram a veia chapada da IA #inteligenciaartificial #veo3 ♬ som original – Rodrigo Mendonça
@promptsgeniais acesse o link no perfil para aprender a criar vídeos com VEO3.
#veo3 #ia #virals #google #inteligenciaartificial #fininho #thc #beck ♬ som original – prompts geniais
@vovs.no.tik.tok Vovó f1 e foi pra missa brisada
#caps #comediahumor #engraçado #videoviral #comedyvideo ♬ som original – Vovós no tik tok
Embora pareçam inofensivos, especialistas alertam para o impacto desumanizador desse tipo de material. “Estamos assistindo à normalização do uso da IA para criar conteúdo degradante e, pior, transformá-lo em entretenimento”, afirma a advogada Juliana Costa, mestre em direito e pesquisadora em inteligência artificial.
IA e a pornografia infantil
Talvez o caso mais grave seja a explosão de conteúdos de exploração sexual infantil criados por IA. A Internet Watch Foundation (IWF) identificou 1.286 vídeos desse tipo só neste ano, contra apenas dois no mesmo período de 2024.
A tecnologia tornou o conteúdo quase indistinguível de imagens reais, alimentado por redes criminosas que usam a dark web como base para disseminar e aprimorar esse material.
“É um problema que cresce em velocidade que o direito não consegue acompanhar”, lamenta Juliana Costa sobre as consequências do crime.
6 imagens
Fechar modal.
Getty Images
Yuichiro Chino/Getty Images
Getty Images
D3sign/Getty Images
SvetaZi/Getty Images
Busakorn Pongparnit/Getty Images
O que diz a lei?
De quem é a culpa por esse cenário? Do usuário que cria? Da plataforma que hospeda? Ou do desenvolvedor da IA? Segundo Juliana Costa, a resposta é complexa.
“Em um primeiro momento, a responsabilidade recai sobre o usuário. Mas as plataformas também podem ser responsabilizadas, como vem reforçando o STF. E em casos de alto risco, o desenvolvedor pode ser responsabilizado objetivamente. A tendência é que todos os atores da cadeia sejam cobrados na medida de sua contribuição”, explica.
Apesar disso, a advogada alerta: “Ainda temos uma legislação fragmentada. O futuro Marco Legal da IA, previsto no PL 2.338/2023, é essencial para enfrentar esses desafios”.
O psicólogo Lucas Glasner também acredita que tudo isso pode ser contido com a regularização.
“A gente regulou o álcool, o cigarro, as armas. Por que não regular a IA? Essas plataformas lucram com a nossa atenção e jogaram ferramentas poderosíssimas no mercado sem nos ensinar a usá-las. Precisamos de protocolos de bem-estar, monitoramento e filtros de risco para interações potencialmente perigosas”, afirma.
Lucas Glasner, psicólogo
O lado bom da IA
Apesar de todos os riscos, é importante lembrar que a inteligência artificial não é, por si só, uma vilã. Quando bem utilizada, pode transformar áreas inteiras da sociedade. É o que defende Marcelo Henrique, doutor em ciência da computação e pesquisador de tecnologias emergentes:
“A mesma ferramenta que hoje pode criar um vídeo falso é a que, em hospitais, está ajudando a diagnosticar câncer precocemente e a salvar milhares de vidas. A mesma tecnologia que gera desinformação é usada por cientistas para prever desastres naturais e planejar respostas rápidas, protegendo populações inteiras. A IA é uma faca de dois gumes: perigosa nas mãos erradas, revolucionária nas mãos certas”.
Henrique destaca que a tecnologia já impacta positivamente diversos setores, da educação personalizada, que leva ensino de qualidade a quem nunca teve acesso, ao desenvolvimento de recursos que ampliam a acessibilidade para pessoas com deficiência.
Para o especialista, o desafio não é conter a tecnologia, mas decidir como ela será moldada. “Estamos diante de uma das ferramentas mais poderosas já criadas pela humanidade. A questão não é parar a IA, mas assumir as rédeas do seu desenvolvimento. Se continuarmos passivos, ela será usada contra nós. Se assumirmos o controle, pode resolver problemas que hoje parecem insolúveis”, completa.
