A disseminação de fotos íntimas sem consentimento tem sido um desafio enfrentado por vítimas e empresas de tecnologia há anos, levando as empresas a adotarem ferramentas para tentar conter essa prática.
Atualmente, a empresa Meta, que antes era chamada de Facebook, revelou seu respaldo à StopNCII.org, um projeto da UK Revenge Porn Helpline com o objetivo de impedir a disseminação do NCII, também conhecido como pornografia de vingança, em sua rede.
Meta, em conjunto com o Facebook Ireland, faz parte de uma lista de 50 parceiros de organizações não-governamentais em todo o mundo que colaboram com o StopNCII.org. Segundo o comunicado de imprensa da Meta, a plataforma é descrita como a primeira iniciativa global a oferecer auxílio às pessoas que tiveram suas imagens íntimas compartilhadas sem autorização.
A maneira como a ferramenta opera é a seguinte: usando o StopNCII.org, indivíduos preocupados com sua segurança e privacidade em relação à pornografia de vingança podem registrar um caso. A ferramenta emprega uma tecnologia de hash que atribui um valor único – ou código numérico – a uma imagem específica. Empresas de tecnologia, como a Meta, que aderem à iniciativa podem receber esse hash e utilizá-lo para verificar e determinar se a imagem foi compartilhada online.
O programa atual é muito diferente do teste inicial que o Facebook realizou na Austrália em 2017. Naquela época, a empresa solicitava que os usuários enviassem fotos nuas para serem analisadas por moderadores humanos, o que gerou preocupações e críticas sobre privacidade, embora o Facebook afirmasse que as imagens seriam armazenadas por um curto período.
A luta para criar tecnologias eficazes e habilitadoras para essa finalidade prosseguiu em 2019, quando o Facebook introduziu uma nova ferramenta de inteligência artificial projetada para identificar imagens de nudez, facilitando assim sua remoção imediata.
A versão divulgada atualmente é fundamentada em versões anteriores, porém adota uma abordagem notavelmente distinta para lidar com a pornografia de vingança.
O novo design da ferramenta atualizada StopNCII.org foi criado com o objetivo de dar poder ao sobrevivente, permitindo que eles tenham controle da situação. Ela combina informações e opiniões importantes de sobreviventes, especialistas, defensores e outros colaboradores da área de tecnologia. As imagens enviadas para o StopNCII.org não são armazenadas nos dispositivos das pessoas, apenas um código é compartilhado com outras plataformas para fins de detecção.
“No centro do desenvolvimento desta ferramenta está o foco nas necessidades das vítimas e sobreviventes, proporcionando-lhes controle sem comprometer a sua privacidade”, afirmou Sophie Mortimer, responsável pela linha de ajuda de vingança do Reino Unido. Ela destacou que o StopNCII.org foi criado para ser acessível e intuitivo, oferecendo orientações detalhadas para apoio e aconselhamento adicionais, para devolver o poder às pessoas em um momento de vulnerabilidade.”
Enquanto a prática de compartilhar pornografia de vingança foi proibida em locais como o Reino Unido (a partir de 2015) e em estados como Nova York (a partir de 2019), ainda assim continua se espalhando.
A disseminação da pornografia de vingança e a ineficácia de algumas empresas de tecnologia em desativar adequadamente os sistemas já existentes têm sido motivo de preocupação há anos. O Telegram, por exemplo, recusou-se a agir contra a publicação de pornografia de vingança, resultando em prolongadas disputas legais.
O termo “revelar pornografia”, bastante difundido, é alvo de críticas por parte de sobreviventes e ativistas, que o consideram inadequado. Eles argumentam que essa expressão pode culpar as vítimas e refletir sexismo, já que sugere que as pessoas que compartilham essas imagens são as culpadas, incitando um desejo de vingança.
A ferramenta da Meta é vista como um avanço positivo para reforçar os esforços da empresa no combate à disseminação do NCII.
Caso esteja sofrendo com a divulgação de pornografia sem consentimento nos Estados Unidos, entre em contato com a linha direta de crise do CCRI ligando para 844-878-CCRI (2274). No Reino Unido, acesse o Revenge Porn Helpline. Para saber mais sobre Meta e NCII, acesse o site StopNCII.org.
Objetivo
