Governo investiga chatbots de IA que simulam amizade e romance

Ministério da Justiça solicita investigação sobre chatbots de IA que simulam amizade

O Ministério da Justiça e Segurança Pública (MJSP) acionou nesta segunda-feira (21) a Agência Nacional de Proteção de Dados (ANPD) para investigar os riscos apresentados pelos chamados chatbots de IA que simulam amizade, companheirismo e relacionamentos românticos com usuários. A ação integra esforços governamentais para garantir a segurança de crianças e adolescentes em plataformas digitais.

Por meio de uma nota técnica elaborada pela Secretaria Nacional de Direitos Digitais (Sedigi), vinculada ao MJSP, o governo solicitou que a agência reguladora avalie esses serviços conforme as diretrizes do Estatuto Digital da Criança e do Adolescente (ECA Digital), considerando as competências de fiscalização existentes.

Análise preliminar identifica desconformidades em serviços de IA

O documento técnico não acusa as plataformas de cometimento direto de infrações, mas apresenta indícios de irregularidades após examinar 13 serviços distintos de chatbots de IA que simulam amizade e relacionamentos. Os serviços avaliados incluem Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI.

O Ministério da Justiça ressalta que a análise constitui uma avaliação preliminar, sendo necessários aprofundamentos posteriores. Essa iniciativa faz parte da implementação do ECA Digital, legislação que estabelece obrigações de proteção e segurança para plataformas e serviços digitais utilizados por menores.

Principais preocupações identificadas pelo governo

O governo destacou diversos pontos que merecem investigação especializada sobre os chatbots de IA que simulam amizade. Entre as questões prioritárias estão a verificação inadequada da idade dos usuários, o risco de uso excessivo ou compulsivo, a exposição a conteúdo impróprio para menores e o processamento de dados pessoais para criar perfis emocionais e comportamentais.

De acordo com a análise realizada pela Secretaria Nacional de Direitos Digitais, a maioria dos serviços examinados utiliza apenas a autodeclaração como mecanismo de verificação de idade. Essa metodologia apresenta vulnerabilidades significativas, permitindo que usuários menores contornem facilmente os controles etários implementados.

Falhas no sistema de verificação etária

A secretaria apontou que a facilidade com a qual a autodeclaração é contornada não representa apenas uma deficiência no cumprimento da obrigação de aferição de idade. O órgão entende que essa falha constitui um indicativo claro do acesso provável de menores a esses serviços, submetendo as plataformas ao conjunto completo de obrigações estabelecidas pela lei de proteção digital.

Características dos chatbots de IA sob investigação

Os serviços de chatbots de IA que simulam amizade possuem diferentes funcionalidades, mas compartilham características comuns. A maioria mantém histórico das conversas, personaliza respostas conforme o perfil do usuário, simula personalidade e emoções e oferece, em alguns casos, conteúdo de natureza romântica ou adulta.

Essas plataformas utilizam algoritmos sofisticados para criar experiências imersivas, nas quais os usuários podem estabelecer relacionamentos contínuos e progressivos com personagens virtuais. Essa dinâmica levanta questões importantes sobre o bem-estar emocional, especialmente considerando o público infanto-juvenil.

Próximas etapas na investigação

O documento recomenda que a Secretaria Nacional do Consumidor (Senacon) também analise o assunto, examinando possíveis irregularidades relacionadas ao uso de publicidade, estratégias de monetização e tratamento de dados pessoais dos usuários. Essa avaliação ampliada busca garantir transparência nas práticas comerciais das plataformas de chatbots de IA que simulam amizade e relacionamentos.

A investigação coordenada entre órgãos governamentais representa um esforço integrado para proteger menores de riscos associados aos serviços digitais emergentes, garantindo conformidade com as legislações de proteção de dados e direitos digitais atualmente em vigor no país.