Apple e Google foram alvo de uma notificação judicial enviada à sede das empresas pela procuradoria-geral da cidade de São Francisco (EUA), que acusa a distribuição de apps de inteligência artificial usados para criar imagens íntimas falsas (nudes) sem consentimento. O pedido é de remoção imediata de 13 aplicativos dessas lojas digitais.
O que a procuradoria está dizendo
De acordo com o documento, analisado pela revista Wired, a acusação aponta que alguns apps utilizam IA para alterar imagens e simular nudez a partir de fotos de pessoas reais. A procuradoria classifica esse tipo de ferramenta como facilitadora de abusos, assédio e exploração indevida da imagem.
O argumento central é que isso pode violar leis da Califórnia relacionadas à pornografia sintética não consensual. Além disso, a comunicação sustenta que as empresas estariam se beneficiando do modelo de negócios, ao receberem comissões sobre pagamentos feitos dentro dos aplicativos.
O procurador-geral David Chiu afirmou que “gerar imagens não consensuais é ilegal, prejudicial e totalmente inaceitável” e disse que as empresas têm responsabilidade de “garantir que os aplicativos em suas plataformas não facilitem o abuso sexual”.
Por que isso importa para quem usa celular (mesmo que você não busque esse tipo de app)
Esse caso é relevante porque envolve duas coisas que aparecem no dia a dia de qualquer pessoa: como apps entram nas lojas oficiais e como eles são monetizados. Quando ferramentas desse tipo passam a ser distribuídas de forma ampla, fica mais fácil transformar fotos pessoais em material íntimo falso — algo que pode causar dano rápido e difícil de reverter.
Outro ponto citado nas cartas é que alguns desses aplicativos teriam recebido classificações indicativas baixas, a ponto de aparecer como adequados para crianças. A preocupação, nesse contexto, não é só com o criador do conteúdo, mas também com o risco de exposição e a normalização do abuso.
Na prática, o leitor pode não baixar o aplicativo. Ainda assim, basta que ele esteja disponível na loja para ampliar o alcance do problema: mais pessoas conseguem experimentar, pagar e compartilhar resultados gerados por IA.
O que isso muda na prática?
Se o pedido for atendido, a expectativa é que a remoção dos 13 apps alcance tanto a App Store quanto a Google Play, reduzindo a disponibilidade imediata desses serviços. A procuradoria também solicita que as empresas encerrem relações comerciais com os desenvolvedores identificados.
O documento ainda aponta uma exigência legal na Califórnia: a proibição de dar suporte técnico ou financeiro a serviços voltados à criação e venda de pornografia sintética não consensual. Em outras palavras, não se trata apenas de “reprovar” o conteúdo — a tese é que o ecossistema (armazenamento, distribuição e monetização) pode ser considerado parte do suporte ao abuso.
Para usuários comuns, isso tende a significar menos espaço para esse tipo de ferramenta nos catálogos oficiais — e um alerta sobre o risco de resultados gerados por IA com base em fotos de terceiros.
Apesar de as cartas tratarem de uma lista específica de apps, o tema vai além de casos pontuais: a discussão influencia como plataformas podem avaliar denúncias, aplicar regras e revisar classificações indicativas quando o conteúdo envolve imagem íntima simulada sem consentimento.
Como se proteger enquanto esse tipo de app circula
Mesmo sem entrar em detalhes de “como fazer”, o ponto prático é reduzir a chance de suas fotos serem usadas como base para manipulação. Algumas atitudes comuns podem ajudar: evitar compartilhar imagens íntimas ou sensíveis em ambientes abertos e limitar exposição de fotos em redes e mensageiros.
Quando houver suspeita de uso indevido (por exemplo, imagens circulando como se fossem reais), o ideal é agir rápido com denúncias nas plataformas onde o conteúdo aparece e buscar orientação sobre como registrar o caso. A denúncia e o registro são importantes para que a remoção aconteça na prática — e não apenas no plano teórico.
Se o seu objetivo é entender “o que está em jogo”, este episódio mostra que apps de IA não são avaliados só pela utilidade técnica, mas pelo impacto real: criar nudez falsa a partir de imagens reais pode ser tratado como ilegal quando falta consentimento.
O Portal Brasil News vai acompanhar os desdobramentos desse caso e como as lojas digitais respondem às solicitações da procuradoria. Enquanto isso, vale manter a atenção redobrada com imagens pessoais e com apps que prometem gerar conteúdo íntimo com base em fotos de terceiros.
Continue acompanhando o Portal Brasil News
- Instagram: @top_ofertas_brasil_oficial
- Site: Ver mais notícias
