Apple e Google obrigadas a derrubar apps de nudificação nos EUA

Apple e Google são obrigadas a derrubar apps de 'nudificação' nos EUA

Uma ordem judicial nos Estados Unidos determinou que Apple e Google removam de suas lojas aplicativos de 'nudificação', que usam inteligência artificial para remover roupas de imagens. A decisão, voltada à proteção de menores, foi tomada no âmbito de uma ação movida por procuradores de vários estados americanos.

O que são apps de 'nudificação' e como funcionam

Os aplicativos de 'nudificação' utilizam redes neurais generativas para criar versões sem roupa de pessoas em fotos. A tecnologia, originalmente desenvolvida para edição artística ou médica, foi cooptada para fins não consensuais. As vítimas são frequentemente menores de idade, cujas imagens são baixadas de redes sociais e processadas sem autorização.

Por que Apple e Google foram alvo da ação

A ação judicial, movida por procuradores de estados como Califórnia e Nova York, argumenta que as lojas de aplicativos das duas empresas violam leis estaduais e federais de proteção à infância. Segundo a petição, a disponibilidade desses apps configura 'prática comercial abusiva' e 'negligência na moderação de conteúdo'. As empresas foram notificadas formalmente em junho de 2024 e tiveram prazo de 30 dias para cumprir a ordem.

O impacto da decisão nas políticas das big techs

A decisão judicial representa um precedente significativo para a regulação de conteúdo em lojas de aplicativos. Especialistas em direito digital apontam que a medida pode forçar Apple e Google a adotarem filtros mais rigorosos antes da aprovação de apps. Em comunicado, a Apple afirmou que 'revisa cada aplicativo contra diretrizes de segurança' e que 'já havia removido apps similares anteriormente' diretrizes de segurança da Apple. O Google, por sua vez, disse que 'avalia a decisão e reforça suas políticas contra conteúdo sexual não consensual'.

Contexto legal: leis americanas de proteção à infância

A legislação dos Estados Unidos contra a exploração sexual infantil é regida por estatutos federais, como o Protect Our Children Act, e por leis estaduais que criminalizam a produção e distribuição de imagens íntimas não consensuais de menores. A ação contra Apple e Google se baseia em uma interpretação ampla dessas leis, responsabilizando as plataformas por facilitar o acesso a ferramentas de abuso. Uma reportagem do The New York Times de maio de 2024 mostrou que pelo menos 20 apps de nudificação estavam disponíveis nas lojas oficiais.

Reações de organizações de defesa dos direitos digitais

Organizações como a Electronic Frontier Foundation (EFF) criticaram a decisão, argumentando que a remoção de apps pode abrir precedente para censura. Em nota, a EFF afirmou que 'a medida é desproporcional e pode ser usada para suprimir ferramentas legítimas de edição de imagem'. Por outro lado, a National Center for Missing & Exploited Children (NCMEC) elogiou a ação, dizendo que 'protege crianças de abusos irreversíveis'. O debate opõe liberdade de expressão e proteção de vulneráveis.

O que esperar para o Brasil

No Brasil, o Marco Civil da Internet e o Estatuto da Criança e do Adolescente (ECA) já preveem a remoção de conteúdo que viole direitos de menores. A Secretaria Nacional do Consumidor (Senacon) pode, em tese, adotar medida similar contra lojas de apps que operam no país. Em 2023, a Senacon já havia notificado Apple e Google sobre a venda de apps de 'nudificação'. A decisão americana pode acelerar a regulação local.

Perguntas Frequentes

A decisão vale para todo o mundo?

Não. A ordem judicial se aplica apenas ao território dos Estados Unidos. No entanto, as empresas podem optar por remover os apps globalmente para evitar inconsistências de política.

Quais apps foram removidos?

A ação não lista nominalmente os aplicativos, mas reportagens indicam que apps como 'Undress AI' e 'Nudify' estavam entre os alvos.

O que acontece se Apple e Google não cumprirem?

As empresas podem ser multadas e sujeitas a sanções civis, incluindo a possibilidade de bloqueio de suas operações nos estados que moveram a ação.

Como denunciar apps semelhantes no Brasil?

O cidadão pode registrar queixa no site da Senacon ou no Ministério Público do seu estado, com prints e evidências do aplicativo.

A tecnologia de nudificação é ilegal?

Sim, quando usada para criar imagens não consensuais de pessoas reais, especialmente menores. A posse e distribuição dessas imagens configura crime no Brasil (art. 241 do ECA).