O algoritmo de Carretéis do Instagram, parte do gigante Meta, ele levantou preocupações com a segurança dos menores. Uma investigação de Wall Street Journal revela que ao seguir certos relatos de jovens influenciadores, o algoritmo começou a sugerir conteúdo inapropriado e sexual, ao lado de anúncios de grandes marcas. Resumindo, o Instagram mostra conteúdo adulto até para quem não deveria.
O polêmico algoritmo do Instagram que mostra conteúdo adulto (proibido) até para menores
O teste, realizado por Wall Street Journal, que envolveu o criação de contas destinadas a acompanhar jovens influenciadores, como ginastas e líderes de torcida, mostrou que o algoritmo do Instagram começou a propor conteúdo adulto, incluindo vídeos sexuais envolvendo adultos e menores, e anúncios de marcas conhecidas dos EUA.
A investigação revelou uma tendência alarmante: os relatos que acompanhavam estes jovens estavam a ser expostos a uma mistura preocupante de pornografia e materiais que sexualizavam crianças. Especialistas em sistemas de recomendação algorítmica destacaram como esse conteúdo de “nicho” pode fornecer sinais mais fortes do que aqueles de interesse geral, forçando o algoritmo a direcionar conteúdo impróprio aos usuários.
Veja também: O segredo de Pulcinella é revelado: milhões de usuários menores de idade no Instagram
O problema de agregar conteúdo adulto no Instagram era conhecido internamente e prevenir tal propagação requer mudanças significativas nos algoritmos de recomendação. No entanto, os documentos da empresa mostram que o pessoal de segurança está amplamente proibido de fazer alterações na plataforma que pode reduzir o número de usuários ativos diariamente.
Em resposta, a Meta disse que está investindo bilhões em soluções de segurança, proteção e adequação de marca, ao mesmo tempo que admite a necessidade de mais melhorias. Várias empresas, incluindo Match Grupo e Bumble, eles suspenderam ou reduziram sua publicidade em Reels e outras plataformas Meta após essas descobertas. Outros, como Disney e Himes, estão pressionando a Meta para evitar tais posicionamentos de anúncios e expressaram preocupação com a associação de suas marcas a esse conteúdo.
