Uma mulher de 31 anos, moradora do Rio de Janeiro, registrou um boletim de ocorrência na última sexta-feira após uma foto publicada por ela na rede social X ser editada com o uso de inteligência artificial para que aparecesse de biquíni. A imagem alterada foi gerada por meio do Grok, ferramenta de IA integrada à plataforma, e passou a circular publicamente entre usuários.
Segundo o relato, a foto original mostrava a mulher ao lado de seu animal de estimação durante a celebração do Ano-Novo. Sem autorização, usuários passaram a acionar a ferramenta de IA nos comentários para modificar a imagem, prática que tem se repetido com fotos de outras mulheres na plataforma, principalmente em publicações em inglês. Parte dos conteúdos foi denunciada e removida, mas nem todas as postagens foram apagadas de imediato.
Especialistas em Direito Digital apontam que mulheres vítimas desse tipo de edição podem acionar a Justiça contra a plataforma, o que pode resultar na remoção obrigatória do conteúdo e no pagamento de indenização. Já os usuários que solicitam a edição da imagem ou compartilham o material alterado podem responder criminalmente, com penas que variam de seis meses a um ano de prisão. A responsabilidade penal, nesse caso, recai sobre quem deu o comando à ferramenta ou divulgou a imagem, enquanto a empresa responde na esfera civil.
O episódio reacende o debate sobre os limites do uso da inteligência artificial nas redes sociais. Em um cenário em que ferramentas cada vez mais poderosas estão ao alcance de qualquer usuário, cresce também o risco de abusos, violações de privacidade e danos à dignidade das pessoas. O avanço das IAs impõe uma reflexão urgente sobre até onde essa tecnologia deve ir e quais barreiras precisam ser estabelecidas para que a inovação não ultrapasse limites éticos e humanos fundamentais.