Por que criadores decidiram encerrar aplicativo que ‘remove’ roupas em fotos de mulheres

Aplicativo poderia tornar qualquer mulher uma vítima de pornografia de vingança, disse ativista

Aplicativo poderia tornar qualquer mulher uma vítima de pornografia de vingança, disse ativista


Getty Images/BBC NEWS BRASIL

Um aplicativo que anunciava ser capaz de remover digitalmente roupas em fotos de mulheres para gerar falsos nus foi tirado do ar por seus criadores.

O aplicativo Deepnude, que custava US$ 50 (R$ 191), ganhou atenção e críticas depois de um artigo publicado no site de notícias de tecnologia Motherboard.

No texto, uma ativista contra a chamada pornografia de vingança chamou o aplicativo de “apavorante”.

Os desenvolvedores então decidiram remover o software da web dizendo que o mundo não estava pronto para ele.

“A probabilidade de as pessoas usarem-no de forma indevida é muito alta”, escreveram os programadores em uma mensagem no Twitter. “Não queremos ganhar dinheiro dessa maneira.”

Eles disseram que qualquer pessoa que tenha comprado o aplicativo receberá um reembolso, acrescentando que não haverá outras versões disponíveis e retirando o direito de qualquer outra pessoa de usá-lo.

Os desenvolvedores também pediram que as pessoas que tenham uma cópia não a compartilhem, embora o aplicativo ainda funcione para qualquer um que o possua.

 

Aplicativo usava redes baseadas em inteligência artificial para "remover" roupas de mulheres em fotos Vítimas da vingança

Aplicativo usava redes baseadas em inteligência artificial para “remover” roupas de mulheres em fotos Vítimas da vingança


Getty Images/BBC NEWS BRASIL

A equipe disse que o aplicativo foi criado como “entretenimento” há alguns meses e oferecido – em versões para Windows e Linux – em um site.

O programa estava disponível em duas versões – uma gratuita que colocava grandes marcas d’água sobre as imagens criadas e uma versão paga que acrescentava um pequeno selo de “falso” em um canto da foto.

Em sua declaração, os desenvolvedores também disseram: “Honestamente, o aplicativo nem é tão bom, só funciona com fotos específicas”.

Apesar disso, o interesse gerado pelo artigo publicado no Motherboard levou o site do app a sair do ar de tanta gente que queria baixar o software.

Em entrevista ao Motherboard, Katelyn Bowden, fundadora do grupo Badass, que combate pornografia de vingança, chamou o aplicativo de “apavorante”.

“Agora qualquer uma pode se ver vítima de pornografia de vingança, sem nunca ter tirado uma foto nua”, ela disse ao site. “Esta tecnologia não deveria estar disponível ao público.”

O programa supostamente usa redes neurais artificiais – baseadas em inteligência artificial – para remover roupas em imagens de mulheres para produzir nus realistas.

As redes foram treinadas para descobrir onde as roupas estão em uma foto, mascará-las ao combinar tons de pele, iluminação e sombras e, em seguida, preencher o mesmo espaço com as características físicas estimadas.

A tecnologia é similar à usada para criar os chamados deepfakes, em que fotos e vídeos são manipulados para produzir clipes falsos – em que, por exemplo, o rosto de uma pessoa é inserido no corpo de outra.