Ministério da Justiça e Segurança Pública abre análise sobre amizade, companhia e até namoro fornecidos por Inteligência Artificial

Uma nova geração de serviços de inteligência artificial passou a oferecer “companhia”. Plataformas capazes de manter conversas recorrentes, armazenar informações sobre o usuário, adaptar respostas ao longo do tempo e simular traços de personalidade, amizade, afeto e até relações românticas.

O que acontece quando esse tipo de tecnologia é utilizado por crianças e adolescentes?

Nesta semana, o Ministério da Justiça e Segurança Pública solicitou à Agência Nacional de Proteção de Dados (ANPD) a abertura de investigação sobre 13 serviços de chamados “companheiros de IA”. Segundo o Ministério da Justiça, um diagnóstico técnico identificou riscos relacionados à dependência emocional e psicoafetiva e fragilidades na proteção de crianças e adolescentes.

A recomendação consta de nota técnica elaborada pela Secretaria Nacional de Direitos Digititais (Sedigi). Segundo informações divulgadas a partir do documento, foram analisadas plataformas como Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI.

Por se tratar de uma análise preliminar e de caráter investigativo, o documento não conclui pela prática de infrações pelas empresas. No entanto, aponta indícios de possíveis desconformidades legais que, na avaliação da secretaria, justificariam uma investigação mais aprofundada pela ANPD. Entre os pontos levantados estão a aferição de idade, o risco de uso excessivo ou compulsivo, a exposição a conteúdos inadequados e o tratamento de dados para formação de perfis emocionais e comportamentais dos usuários.

Este último aspecto que diferencia os chamados “companheiros de IA” de boa parte das discussões que tivemos até agora sobre inteligência artificial. O objetivo de alguns desses serviços é estabelecer uma interação contínua, profunda e rotineira. Quanto mais o usuário conversa, maior pode ser a quantidade de informações disponibilizadas sobre sua rotina, preferências, inseguranças, relacionamentos e estado emocional.