Youtube recomenda vídeos que violam os próprios termos de uso

            Uma pesquisa realizada pelo Mozilla Foundation chegou à conclusão que os algoritmos utilizados pelo YouTube são os responsáveis por indicar aos seus usuários vídeos que infringem as próprias políticas de conteúdo estabelecidas pela plataforma.

            Segundo o estudo, 71% dos vídeos marcados como “Nocivo e perigoso” pelos integrantes da avaliação foram recomendados a outras pessoas pela plataforma de vídeos da Google. Sendo que pessoas que não falam a língua inglesa foram aqueles perfis mais propensos a achar conteúdos tidos como perturbadores, chegando a uma taxa média de arrependimento de 60%.

            O relatório do estudo foi composto utilizando dados coletados pela RegretsReporter, que é uma extensão do navegador desenvolvido pela Mozilla para tal finalidade. Essa extensão permite que o usuário classifique a experiência de recomendação como negativa ou positiva, e o que o levou a assistir o vídeo. Dessa forma, é possível cruzar os vídeos e então identificar se há algum tipo de relação entre os conteúdos que foram recomendados pelo YouTube. Ao todo, a pesquisa contou com a participação de mais de 30 mil usuários do site, sendo essa uma amostra incrivelmente relevante.

            Indo contra as próprias políticas

            Segundo o Mozilla, eles sinalizaram ao todo 3.362 vídeos como “Nocivo e perigoso”, sendo esse conteúdo derivado de 91 países diferentes, entre julho de 2020 e maio deste ano. Em relação aos principais assuntos contidos nos vídeos estavam a promoção de desinformação (fake news), discursos de ódio, tentativas de golpes na internet e violência explícita. Durante a pesquisa, um dos participantes assistia a conteúdos relacionados às forças armadas dos EUA, e após o encerramento, o algoritmo o redirecionou para um vídeo em que um homem “humilhava uma feminista”, sendo esse conteúdo considerado inapropriado e misógino.

            A pesquisa ainda aponta que 200 vídeos indicados pelo algoritmo do YouTube foram retirados da plataforma pouco tempo depois que foram postados, porém, juntos eles conseguiram acumular 160 milhões de visualizações. Dessa forma, o conteúdo que envolve golpes virtuais podem ter sido retirados do ar tarde demais, fazendo milhares de vítimas. Felizmente, há plataformas sérias e que se preocupam com o tempo e dinheiro gasto pelos usuários – dentre elas estão os cassinos online confiáveis, que contam com licenças emitidas por autoridades de jogos, assim como uma criptografia de ponta  e ainda passam por auditorias feitas por entidades idôneas.

            De acordo com a Mozilla Foundation, dá para afirmar que o algoritmo do YouTube foi projetado para desinformar e prejudicar as pessoas. A empresa ainda aponta que a prática é ainda mais detestável porque é voltada para quem não tem inglês como língua nativa, gerando com maior facilidade falhas de comunicação e incompreensão.

            Dados significativos           

            Para se ter uma noção da relevância do sistema de recomendação do YouTube, aproximadamente 70% do tempo de visualização na plataforma (equivalente a 700 milhões de horas por dia) advém de algum dos conteúdos recomendados pelo algoritmo. De acordo com a pesquisa, as pessoas costumam ir emendando um vídeo no outro, já que em teoria, eles tratam de assuntos do seu interesse.

            E é aí que mora o problema, já que vários dos conteúdos considerados nocivos têm um bom desempenho na plataforma. Sendo que em alguns casos eles são sete vezes mais assistidos que os conteúdos tipos como comuns. Apesar disso, as recomendações da plataforma não são totalmente ruins, sendo que 43% dos participantes da pesquisa apontaram que as indicações que receberam estavam de acordo com os vídeos que eles já estavam acompanhando.

            Após a repercussão do caso, o YouTube Brasil se manifestou, afirmando que está sempre em busca de melhorar a experiência dos usuários, e isso perpassa pelo aprimoramento do mecanismo de entrega de vídeos. “O objetivo do nosso sistema de recomendação é conectar os espectadores com o conteúdo que os agrada e, por dia, mais de 200 milhões de vídeos são recomendados apenas na nossa página inicial. Mais de 80 bilhões de informações são usadas para calibrar nossos sistemas, incluindo dados de pesquisas com usuários sobre o que eles querem assistir. Trabalhamos constantemente para melhorar a experiência no YouTube e, somente no ano passado, implementamos mais de 30 mudanças diferentes para reduzir as recomendações de conteúdo potencialmente prejudicial. Graças a essa mudança, o consumo de conteúdo que chega perto de violar nossas regras proveniente das nossas recomendações está agora significativamente abaixo de 1%”.