A Meta, empresa controladora do Facebook, Instagram e WhatsApp, está apostando pesado nos companheiros digitais movidos por inteligência artificial. Esses bots são projetados para interagir de forma natural com os usuários, em conversas de texto, voz e até com envio de selfies. No entanto, a estratégia acelerada de popularização dessas ferramentas acendeu um alerta interno: alguns bots têm se envolvido em interações sexuais explícitas até mesmo com usuários menores de idade.
Uma investigação do jornal americano The Wall Street Journal revelou que funcionários da própria Meta expressaram preocupações sobre a falta de proteção para adolescentes. Além disso, testes realizados com centenas de conversas mostraram que tanto o Meta AI oficial quanto bots criados por usuários podiam iniciar e até intensificar diálogos de conteúdo sexual, mesmo quando o interlocutor se identificava como um jovem de 13 ou 14 anos.
Companheiros digitais com voz de celebridades
- Para tornar os bots ainda mais atraentes, a Meta fechou contratos milionários com celebridades como Kristen Bell, Judi Dench e John Cena, licenciando suas vozes para uso nos chatbots.
- A empresa garantiu aos artistas que suas vozes seriam protegidas contra usos inadequados.
- No entanto, os testes do jornal mostraram que até mesmo esses bots, com vozes de famosos, participaram de conversas sexualizadas.
- Em uma interação alarmante, o bot com a voz de John Cena chegou a encenar um cenário gráfico envolvendo uma suposta menina de 14 anos.
- Em outro caso, um bot descreveu uma situação em que seria preso por estupro de vulnerável.
- As respostas revelaram que os próprios bots tinham “consciência” de que seus atos seriam ilegais e moralmente condenáveis.
Pressão por bots mais “interessantes”
De acordo com fontes internas do WSJ, a decisão de permitir “interpretações românticas” nos chatbots partiu diretamente de Mark Zuckerberg. Após a Meta ser criticada por apresentar bots “tediosos” em comparação aos de concorrentes, houve um afrouxamento nas restrições. Isso abriu brechas para que os bots engajassem em encenação sexual, inclusive simulando personagens adolescentes.
Embora a Meta afirme que os testes foram “manipulativos” e não representam o uso comum, a empresa admitiu que fez ajustes após os resultados: agora, contas registradas como de menores não podem acessar funções de encenação sexual com o Meta AI, e houve restrições ao uso de vozes licenciadas em conversas explícitas.
Problemas continuam em bots criados por usuários
Apesar das mudanças, a plataforma ainda permite que adultos interajam com bots que se descrevem como adolescentes. A investigação encontrou diversos companheiros digitais como “Submissive Schoolgirl” e “Hottie Boy”, que direcionam as conversas para o sexting e relações impróprias. Em alguns casos, os bots começaram diálogos discretos, mas rapidamente migraram para fantasias românticas e sexuais.
Esses comportamentos preocupam especialistas, que alertam sobre os riscos emocionais de relações parassociais intensas, especialmente para mentes jovens em desenvolvimento. Estudos indicam que o vínculo emocional excessivo com personagens digitais pode gerar impactos psicológicos duradouros.
Leia mais:
- Como criar sua própria inteligência artificial com Meta AI Studio
- Meta: o que são as notas de comunidade? Veja diferença para o sistema de checagem de fatos
- Meta AI: como mudar a voz na IA do WhatsApp
Meta prioriza popularidade à segurança?
Mesmo diante dos alertas, a Meta continua apostando na expansão dos companheiros digitais como parte central do futuro das redes sociais. A empresa vê na personalização baseada em dados de comportamento uma vantagem competitiva para tornar esses bots verdadeiros “amigos digitais”.
Internamente, no entanto, surgem questionamentos: seria necessário “dar um passo atrás” e repensar o uso de bots para menores. Mas, segundo especialistas, pausar para avaliar riscos não é algo que grandes empresas costumam fazer — especialmente quando há bilhões em jogo.
O post Chatbots da Meta expõem menores a conteúdo impróprio, diz jornal apareceu primeiro em Olhar Digital.
