O YouTube hospeda uma infinidade de vídeos, atraindo um grande número de públicos, mas às vezes os vídeos podem ser um pouco acessíveis demais. Animações para adultos como "Happy Tree Friends" ou "Don't Hug Me I'm Scared" podem atrair crianças com suas cores vivas ou fantoches do tipo Muppet, mesmo que não sejam apropriadas para crianças. Mas parece que a plataforma de compartilhamento de vídeos pode estar lidando com reclamações com uma versão atualizada do aplicativo YouTube Kids que seria monitorada por humanos reais, de acordo com um relatório do BuzzFeed News. O pedido de Romper para comentários do YouTube sobre os relatórios da atualização não foi retornado imediatamente.
A idéia é que esse novo aplicativo coexista com o YouTube Kids, a tentativa original da empresa de usar um algoritmo para filtrar conteúdo acessível a crianças, de acordo com o BuzzFeed News. A agência de notícias informou que dará aos pais a opção de desativar os vídeos sugeridos por algoritmos. Em vez disso, as crianças não teriam acesso a nenhum vídeo que não tenha sido exibido por um ser humano de carne e osso. Faz sentido; algoritmos podem ser ótimos, mas é um programa de computador e só pode ser codificado para ler e sinalizar tanto.
O aplicativo YouTube Kids funciona para bloquear usuários básicos de vídeos inadequados; pesquisar por qualquer conteúdo explícito não exibirá nenhum resultado. Além disso, os pais tiveram a opção de remover o botão de pesquisa por inteiro, deixando apenas vídeos pré-selecionados disponíveis. Mas as preocupações com os vídeos que o YouTube Kids sugeriu às crianças já existem há algum tempo, como relatado pelo Tech Radar. Embora o YouTube Kids seja uma tentativa decente de tentar filtrar informações prejudiciais, houve casos em que o aplicativo sugeriu vídeos de conspiração para crianças, conforme relatado pelo Business Insider.
Outros vídeos incluíam alegações de que o mundo é plano, que a aterrissagem na lua foi falsificada e que o planeta foi governado por híbridos humano-réptil, de acordo com o Business Insider. Porém, o YouTube Kids está enfrentando problemas piores do que as teorias da conspiração desde o início em 2015. Menos de dois meses após o lançamento do aplicativo, em maio de 2015, a Campanha por uma infância livre de comércio, uma coalizão de grupos de defesa de crianças e consumidores, reclamou à Federal Trade Commission (FTC). Suas preocupações incluíam o conteúdo que o grupo chamava de "não apenas … perturbador para as crianças, mas potencialmente prejudicial".
Usando personagens de desenhos animados populares, como Spiderman e Elsa, o YouTubers conseguiu atrair crianças para vídeos ofensivos. Segundo Polygon, os vídeos começaram normais, mas logo mostraram princesas, super-heróis e outros favoritos participando de atos obscenos ou violentos. Como um sistema baseado em algoritmo não verifica o vídeo inteiro, os YouTubers conseguiram contornar o sistema usando nomes e miniaturas de vídeos que o algoritmo lê como seguros para crianças.
Outras questões listadas pelo relatório, como relatadas pela Polygon, incluem: linguagem sexual explícita apresentada em meio a animação de desenhos animados, uma paródia profanada do filme Casino, com Bert e Ernie da Vila Sésamo, discussões gráficas sobre adultos sobre violência familiar, pornografia e suicídio infantil, piadas sobre pedofilia e uso de drogas e modelagem de comportamentos inseguros.
É aqui que o aplicativo relatado entra em cena. Em vez de confiar em algoritmos fáceis de enganar, todo o conteúdo teria que ser filtrado por humanos reais. A fonte teria dito ao BuzzFeed News que a opção de lista branca do aplicativo poderia ser lançada nas próximas semanas. De acordo com o BuzzFeed News, o YouTube não negou planos para o aplicativo, mas alegou: "Estamos sempre trabalhando para atualizar e melhorar as crianças do YouTube, mas não comentamos boatos ou especulações".
Porém, a CEO do YouTube, Susan Wojcicki, disse que a empresa está expandindo seu grupo de moderação para mais de 10.000 contratados em 2018, de acordo com a Polygon, e eles se concentrarão em conteúdo que possa violar as políticas do YouTube. “Os revisores humanos permanecem essenciais para remover o conteúdo e os sistemas de aprendizado de máquina do treinamento, porque o julgamento humano é fundamental para a tomada de decisões contextualizadas sobre o conteúdo”, ela escreveu em um post de dezembro de 2017.
A seguinte declaração foi divulgada pelo YouTube na época para Polygon:
O conteúdo que engana ou põe em perigo as crianças é inaceitável para nós. Temos políticas claras contra esses vídeos e os aplicamos de forma agressiva. Usamos uma combinação de aprendizado de máquina, algoritmos e sinalização da comunidade para determinar o conteúdo no aplicativo YouTube Kids. A equipe do YouTube é formada por pais que se preocupam profundamente com isso e estão comprometidos em melhorar o aplicativo todos os dias.
Embora o YouTube ainda não tenha confirmado o desenvolvimento deste novo aplicativo, parece que ele seguirá as políticas e os padrões da empresa. Felizmente, o YouTube continuará respondendo aos problemas relacionados ao YouTube Kids, para que os pais possam confiar que seus filhos não serão apresentados a conteúdo problemático em um aplicativo comercializado para crianças.
