A Meta Platforms Inc., dona de plataformas como Facebook, Instagram, Messenger e Threads, entrou com uma ação judicial contra a empresa Joy Timeline HK Limited, desenvolvedora do aplicativo CrushAI. O app utiliza inteligência artificial para criar imagens de nudez ou conteúdo sexual explícito a partir de fotos de pessoas vestidas, sem o consentimento delas. A ação foi protocolada em Hong Kong, sede da Joy Timeline, e visa impedir a veiculação de anúncios do CrushAI nas redes sociais da Meta.
LEIA TAMBÉM: Israel ataca instalações nucleares do Irã, mata principais líderes militares e agrava tensão global
Segundo a Meta, a Joy Timeline veiculou mais de 87 mil anúncios nas plataformas da empresa, utilizando pelo menos 170 contas comerciais no Facebook e Instagram. Os anúncios promoviam a capacidade do aplicativo de “despir” digitalmente indivíduos, com frases como “faça upload de uma foto para despir por um minuto” e “apague qualquer roupa das garotas”. A Meta alega que a empresa violou suas políticas de segurança e moderação de conteúdo, que proíbem a promoção de aplicativos de “nudificação”.
A Meta também identificou que a Joy Timeline tentou contornar os mecanismos de revisão de anúncios da empresa, utilizando imagens aparentemente inofensivas e criando novos domínios para substituir sites bloqueados. Em resposta, a Meta desenvolveu tecnologia para detectar esses tipos de anúncios, mesmo quando não incluem nudez explícita, e compartilhou informações sobre os aplicativos de nudificação com outras empresas de tecnologia por meio do programa Lantern, administrado pela Tech Coalition.
A prática de criar imagens de nudez não consensuais com inteligência artificial tem gerado preocupações em todo o mundo. No Brasil, a Câmara dos Deputados aprovou um projeto de lei que criminaliza a manipulação, produção ou divulgação de conteúdo de nudez ou ato sexual falso gerado por tecnologia de inteligência artificial, com penas de reclusão de dois a seis anos e multa. Se a vítima for mulher, criança, adolescente, pessoa idosa ou com deficiência, a pena pode ser aumentada de um terço até a metade
