A primeira quantidade impressiona mais ainda se levarmos em conta que, no período, o Facebook registrou 2,2 bilhões de usuários ativos mensalmente (aqueles que acessam a rede social pelo menos uma vez por mês). Isso significa que há mais ou menos um perfil falso para cada quatro contas legítimas. É um problema antigo no Facebook, tanto que boa parte dos usuários legítimos provavelmente já foi adicionada por perfis falsos. Não é difícil identificá-los. Geralmente, contas falsas usam fotos que chamam muita atenção, não têm muitas publicações, interagem pouco, enfim. Há outras orientações para descobrir se um perfil no Facebook é fake aqui. Apesar do número gigantesco de contas falsas, o Facebook destaca que a maioria delas foi eliminada minutos após a sua criação, impedindo que elas chegassem a um número significativo de usuários legítimos. Essa filtragem é feita com auxílio de inteligência artificial. Mesmo assim, a companhia calcula que de 3% a 4% das contas ativas no primeiro trimestre correspondiam a perfis falsos. Também é graças à inteligência artificial que o Facebook vem conseguindo atacar o problema do spam. De acordo com a companhia, quase 100% das 837 milhões de publicações do tipo foram detectadas e eliminadas automaticamente, antes mesmo de usuários terem a chance de denunciá-las.
No relatório, o Facebook destaca ainda que 21 milhões de publicações com cenas de nudez ou atividade sexual foram eliminadas, 96% de modo automático, sem que usuários tivessem que reportar a irregularidade. 3,5 milhões publicações com violência foram apagadas ou advertidas, 86% delas pelo próprio sistema. São números espantosos, mas o próprio Facebook reconhece que este é um trabalho em andamento. Os sistemas de filtragem já trabalham bem, mas não são eficazes na identificação de discursos de ódio, por exemplo. 2,5 milhões de publicações do tipo foram eliminadas no período, mas apenas 38% de maneira automática. O Facebook também explica que os algoritmos de inteligência artificial necessitam de grande quantidade de dados para serem treinados, o que requer tempo. Além disso, há a questão da reação: a companhia ressalta que os responsáveis por publicações irregulares estão a todo momento mudando de estratégia para burlar os controles da rede social.
