Recentemente, o TikTok e o YouTube têm sido alvos de críticas por suas medidas insuficientes para conter conteúdos relacionados a distúrbios alimentares e automutilação. O Centro de Combate ao Ódio Digital alertou sobre a influência negativa dos algoritmos na amplificação desses tipos de conteúdo, o que pode ser extremamente prejudicial para os usuários dessas plataformas.
De acordo com o Centro de Combate ao Ódio Digital, as medidas implementadas pelo TikTok e YouTube para combater o conteúdo nocivo associado a distúrbios alimentares e automutilação são insuficientes. Isso porque, segundo a organização, os algoritmos dessas plataformas são projetados para promover conteúdos que gerem mais engajamento, independente de seu impacto negativo na saúde mental dos usuários.
Essa preocupação não é infundada. De acordo com um relatório do Centro de Combate ao Ódio Digital, foram encontrados mais de 1.500 vídeos no TikTok com hashtags relacionadas a distúrbios alimentares e automutilação. Já no YouTube, foram identificados mais de 500 vídeos com conteúdo similar. Além disso, a pesquisa mostrou que esses vídeos têm uma grande quantidade de visualizações e engajamento, o que reforça a preocupação com a influência dos algoritmos.
Os distúrbios alimentares e a automutilação são problemas sérios que afetam milhões de pessoas em todo o mundo, principalmente jovens e adolescentes. Esses transtornos podem levar a sérias consequências para a saúde física e mental dos indivíduos afetados. Por isso, é fundamental que as plataformas digitais assumam sua responsabilidade e ajam de forma mais efetiva para combater esse tipo de conteúdo.
O TikTok e o YouTube têm tomado algumas medidas para tentar conter a disseminação de conteúdos prejudiciais, como a remoção de vídeos e hashtags relacionadas a distúrbios alimentares e automutilação. No entanto, essas ações ainda são insuficientes, uma vez que o algoritmo dessas plataformas continua favorecendo conteúdos que geram mais engajamento, mesmo que sejam prejudiciais.
Além disso, muitos usuários dessas plataformas têm relatado que, mesmo após a remoção de conteúdos nocivos, ainda recebem recomendações de vídeos com temáticas semelhantes. Isso mostra que o algoritmo não está sendo efetivo em barrar esse tipo de conteúdo e pode estar contribuindo para a amplificação dessas mensagens.
O Centro de Combate ao Ódio Digital também aponta que as medidas adotadas pelo TikTok e YouTube são reativas, ou seja, só são tomadas após a denúncia de usuários. Isso significa que muitos conteúdos nocivos podem ficar disponíveis por um tempo considerável antes de serem removidos, aumentando o risco de impactos negativos na saúde mental dos usuários.
Diante desse cenário, é necessário que as plataformas de mídia social assumam uma postura mais proativa na prevenção e combate a conteúdos associados a distúrbios alimentares e automutilação. Isso inclui uma revisão mais aprofundada dos algoritmos, para que sejam menos suscetíveis a promover esse tipo de conteúdo. Além disso, é preciso investir em mecanismos de moderação mais efetivos e em políticas de prevenção, como a promoção de conteúdos educativos e de conscientização sobre esses temas.
Também é importante que as plataformas trabalhem em parceria com organizações especializadas no tratamento de distúrbios alimentares e automutilação, para que possam oferecer suporte e recursos para os usuários que podem estar enfrentando esses problemas. Isso pode incluir a disponibilização de linhas
