O objetivo é detectar o conteúdo impróprio antes mesmo de ele ser denunciado
O Facebook lançou uma ferramenta de inteligência artificial que ajuda a detectar e sinalizar proativamente imagens e vídeos íntimos publicados sem consentimento — atitude conhecida como "revenge porn". O sistema estará também no Instagram.
Ao contrário dos filtros atuais, este pode identificar conteúdos em que haja pessoas seminuas. Antes dessa ferramenta, imagens e vídeos de indivíduos que não estavam totalmente nus não eram detectados. Agora, o conteúdo será sinalizado e enviado a um moderador humano para revisão.
Até o momento, os usuários do Facebook e do Instagram tinham de denunciar a "revenge porn". A companhia de Mark Zuckerberg espera que o novo sistema dê maior respaldo às vítimas ao sinalizar as ofensas antes mesmo de elas o fazerem.
"Muitas vezes, as vítimas têm medo de retaliações e, por isso, relutam em relatar o conteúdo ou não sabem que ele foi compartilhado", explica a chefe global de segurança do Facebook, Antigone Davis, em um post no blog da empresa. Ela diz que publicações desse tipo podem ser encontradas e enviadas para moderadores humanos "antes que alguém as relate".
É difícil julgar a eficácia do sistema. A companhia tem apresentado soluções de inteligência artificial para problemas nas redes sociais. No entanto, apesar de sistemas automatizados serem capazes de remover conteúdo indesejado sinalizado antecipadamente (como propaganda terrorista), eles ainda lutam com imagens e vídeos que exigem contexto para serem entendidos.
Análise de imagens e legendas
O anúncio do Facebook não deixa claro como a ferramenta detecta imagens íntimas não consensuais. Um relatório da The Associated Press diz que a tecnologia analisa tanto as imagens quanto as legendas. Assim, um "texto depreciativo ou vergonhoso" sinaliza que, provavelmente, "alguém enviou a foto para constranger ou se vingar de outra pessoa".
No entanto, isso certamente não é suficiente para capturar todos os exemplos de pornografia de vingança. Além de anunciar o novo filtro, a empresa mencionou o lançamento de um hub para o tema, o Not Without My Consent, e prometeu melhorar suas ferramentas para denunciar "revenge porn" e responder a pedidos relacionados com mais velocidade.
O hub permite que usuários enviem imagens e vídeos que suspeitam que podem ser compartilhados online para o Facebook. A empresa, então, bloqueará o conteúdo de ser carregado em seus sites. A ideia é estender o programa para mais países.
Esse processo é muito mais preciso do que um filtro automatizado, mas os usuários ficam pouco à vontade para compartilhar esse tipo de conteúdo com o Facebook — o que é compreensível: a empresa já esteve no centro de vários escândalos por não proteger dados pessoais adequadamente. O Facebook diz que está ciente das críticas e quer "esclarecer o processo e as salvaguardas".
