Adolescentes nos Estados Unidos conseguem baixar aplicativos de nudez alimentados por inteligência artificial no iOS e no Android mesmo que suas contas tenham controles parentais ativados. É o que revela um estudo feito pelo Tech Transparency Project (TTP), divulgado pelo The Guardian na segunda-feira (19).
No experimento, pesquisadores do grupo de defesa digital criaram quatro contas de teste, duas na loja oficial do sistema operacional da Apple e duas na plataforma pertencente ao Google, simulando usuários com 13 anos. A equipe encontrou e baixou 135 apps contendo recursos para despir pessoas e/ou trocar rostos por corpos nus acessíveis aos menores.
Questionadas, as big techs informaram que a facilidade pode estar relacionada à classificação etária incorreta feita por alguns desenvolvedores. Ambas também disseram ter reforçado as proteções e tomado medidas contra os apps em questão.
Autorização dos pais não era acionada
Usando termos como “IA para adultos” e “gerador de vídeo com IA, o TTP configurou metade das contas para baixar apenas apenas os apropriados para menores de 13 anos e com autorização dos pais. Porém, a exigência não foi cumprida.
- Segundo a pesquisa, os “apps de nudismo” foram baixados facilmente no Android e no iOS sem que a ferramenta de segurança solicitasse a intervenção dos pais;
- Os autores também constataram a ineficácia das restrições de idade em diferentes casos;
- Em um deles, foi necessário somente confirmar que o usuário tinha 17 anos ou mais para baixar um app para adultos na App Store, após um pop-up alertar sobre a restrição;
- Já em outro caso, o app baixado era indicado como apropriado para 9 anos ou mais, porém a tela inicial mostrava uma mulher de topless em um ônibus.
Nos testes, foram identificados ao menos 135 apps de nudismo com IA acessíveis aos menores. Foto: WESTOCK – stock.adobe.com
“O aplicativo tinha uma função que prometia despir digitalmente qualquer pessoa e, para demonstrar isso, mostrava imagens de celebridades femininas nuas”, aponta a entidade, sobre o caso acima. O teste identificou, ainda, um app de troca de rostos que havia sido classificado como adequado para crianças a partir de quatro anos.
Ao abrir o software, os pesquisadores se depararam com funcionalidades que possibilitavam inserir rostos em imagens de mulheres seminuas ou cenas pornográficas. Problemas semelhantes foram encontrados na Play Store, com a loja chegando a bloquear a conta sem controles parentais três vezes, mas permitindo baixar apps de conteúdo adulto.
Apps e desenvolvedores podem ser banidos
Tanto Apple quanto Google ressaltaram que tomam medidas constantes para detectar e remover apps com conteúdo prejudicial em suas lojas oficiais. Elas estão focando, também, na identificação de programas cadastrados como inofensivos que acrescentam, posteriormente, recursos proibidos para a faixa etária descrita.
Dependendo do caso, o app e o desenvolvedor podem ser suspensos ou até banidos, se comprovada a tentativa de burlar os mecanismos de segurança. “Proibimos apps de nudismo na App Store e removemos desenvolvedores que adicionam recursos desse tipo após o processo de revisão”, afirmou o porta-voz da Apple, Adam Dema.
No Google, a resposta a tais tentativas é semelhante, com a empresa realizando ações como a “suspensão de apps infratores e a restrição de termos de pesquisa relacionados”, segundo o porta-voz da gigante das buscas, Dan Jackson.
Siga no TecMundo e conheça ferramentas de controle parental que podem aumentar a proteção de crianças e adolescentes nas plataformas digitais.
Com informações de The Guardian.
