O algoritmo de recomendações do YouTube pode levá-lo a algumas tocas de coelho muito estranhas, sugerindo vídeos que parecem estranhamente pessoais e fora do alvo ao mesmo tempo.

Pensando nisso, a Mozilla, empresa por trás do navegador Firefox, apresentará uma nova extensão de navegador que visa coletar pesquisas sobre as “recomendações lamentáveis” dos usuários.

Chamada de RegretsReporter, a ideia é permitir que os usuários entendam melhor como funciona o algoritmo de recomendação do YouTube e fornecer detalhes sobre os padrões que ele descobre.

Nova extensão Mozilla e recomendações do YouTube

A Mozilla começou a reunir histórias de usuários no ano passado sobre os vídeos que o YouTube recomendou a eles; um usuário pesquisou vídeos sobre vikings e recebeu recomendação de conteúdo sobre a supremacia branca; outro pesquisou por vídeos de “fail” e começou a receber recomendações de vídeos terríveis de acidentes fatais de carro.

Mas não houve realmente um esforço independente em grande escala para rastrear o algoritmo de recomendação do YouTube para entender como ele determina quais vídeos recomendar, disse Ashley Boyd, vice-presidente de defesa e engajamento da Mozilla.

RELACIONADOS:
YouTube testa modo Picture-in-Picture no iOS
YouTube remove 11 milhões de vídeos em um único trimestre
Felipe Neto no Roda Viva: youtuber vai ao programa em meio a tretas no YouTube e Twitter

“Muita atenção vai para o Facebook – e merecidamente – quando se trata de desinformação”, disse Boyd. “Mas existem outros elementos no ecossistema digital que não foram atendidos, e o YouTube foi um deles. Começamos a olhar o que o YouTube disse, como eles fizeram a curadoria de conteúdo e percebemos que eles responderam às preocupações sobre o algoritmo dizendo que estavam fazendo progressos. Mas não havia como verificar suas alegações. ”

O YouTube faz recomendações estranhas e que às vezes parece não ter sentido.

Um porta-voz do YouTube disse em um comunicado que a empresa está sempre interessada em ver pesquisas sobre seu sistema de recomendação.

“No entanto, é difícil tirar conclusões amplas de exemplos anedóticos e atualizamos nossos sistemas de recomendações continuamente, para melhorar a experiência dos usuários”, disse o porta-voz, acrescentando que, no ano passado, o YouTube lançou “mais de 30 mudanças diferentes para reduzir as recomendações de conteúdo limítrofe. ”

A plataforma de vídeo de propriedade do Google prometeu em várias ocasiões ajustar o algoritmo, observa Boyd, mesmo quando os executivos da empresa estavam cientes de que estava recomendando vídeos contendo discurso de ódio e teorias da conspiração.

Como a nova extensão RegretsReporter funciona?

A extensão do navegador enviará dados para a Mozilla sobre a frequência com que você usa o YouTube, mas sem coletar informações sobre o que você está procurando ou assistindo, a menos que você especificamente ofereça.

Você pode enviar um relatório por meio da extensão para fornecer mais detalhes sobre qualquer vídeo “lamentável” que encontrar nas recomendações, o que permitirá que a Mozilla colete informações sobre o vídeo que você está relatando e como você chegou lá.

A Mozilla espera que a extensão torne o “como” do algoritmo de recomendação do YouTube mais transparente; que tipo de vídeo recomendado leva a conteúdo racista, violento ou conspiratório, por exemplo, e identifica quaisquer padrões sobre a frequência com que o conteúdo prejudicial é recomendado.

“Eu adoraria que as pessoas ficassem mais interessadas em como a IA e, neste caso, os sistemas de recomendação afetam suas vidas”, disse Boyd. “Não precisa ser misterioso, e podemos ser mais claros sobre como você pode controlá-lo.”

Boyd enfatizou que a privacidade do usuário é protegida durante todo o processo. Os dados que a Mozilla coleta da extensão serão vinculados a um ID de usuário gerado aleatoriamente, não à conta de um usuário no YouTube, e apenas a Mozilla terá acesso aos dados brutos.

Coleta de Dados e O Dilema das Redes Sociais

Ele não coleta dados em janelas privadas do navegador e, quando o Mozilla compartilha os resultados de sua pesquisa, o faz de uma forma que minimiza o risco de identificação dos usuários, disse Boyd.

A Mozilla não tem um acordo formal com o Google ou YouTube para sua pesquisa sobre o algoritmo de recomendação, mas Boyd diz que eles estão se comunicando com a empresa e estão comprometidos em compartilhar informações.

O YouTube, no entanto, disse que a metodologia que a Mozilla estava propondo parecia “questionável”, acrescentando que não foi capaz de revisar adequadamente como “lamentável” é definido, entre outras coisas.

A Mozilla planeja passar seis meses coletando informações da extensão, após o qual apresentará suas descobertas aos usuários e ao YouTube.

“Acreditamos que eles estão comprometidos com essa questão”, disse Boyd sobre o YouTube. “Adoraríamos se eles pudessem aprender algo adicional com nossa pesquisa e fazer algumas mudanças viáveis ​​para trabalhar na construção de sistemas mais confiáveis ​​para recomendar conteúdo.”

Sobre o assunto, como a inteligência artificial tem afetado nossas vidas, a Netflix lançou um documentário chamado “O Dilema das Redes Sociais“. É interessante para ver o impacto que o deep learning (aprendizado das máquinas) tem no nosso dia a dia e muitas vezes nem nos damos conta.