Meta se desculpa por falha no Instagram que expôs usuários a conteúdo violento e inadequado

Usuários que estavam rolando os Reels na segunda-feira, 26 de fevereiro de 2025, se depararam com algo bem diferente do que esperavam. Uma falha no Instagram fez com que vídeos perturbadores – incluindo cenas de crimes violentos e conteúdo relacionado a cartéis – aparecessem em suas timelines, mesmo sem qualquer interação prévia com esse tipo de material.

A onda repentina de conteúdo explícito gerou preocupação generalizada, levantando dúvidas sobre a eficácia dos sistemas de moderação do Instagram.

Mesmo com as Restrições de Conteúdo Sensível ativadas, muitos usuários relataram que a plataforma não conseguiu bloquear os vídeos gráficos.

Isso colocou em xeque a eficiência das ferramentas de moderação da Meta. De acordo com as políticas do Instagram, conteúdos extremamente violentos ou explícitos – como mutilações, ferimentos graves ou cenas de sofrimento – devem ser removidos imediatamente, enquanto outros materiais sensíveis podem ser restritos com avisos.

No entanto, nesse caso, vídeos que deveriam ter sido ocultados foram ativamente recomendados aos usuários.

A Meta reconheceu rapidamente o problema, atribuindo-o a um erro técnico no sistema de recomendação da plataforma.

A empresa garantiu que implementou uma correção e reiterou seu compromisso em remover conteúdos que violam suas políticas. Um porta-voz confirmou que a falha fez com que alguns usuários vissem materiais que não deveriam ser recomendados e pediu desculpas pelo ocorrido.

Esse incidente acontece em um momento em que a Meta está reestruturando sua abordagem de moderação de conteúdo.

Em janeiro de 2025, a empresa substituiu verificadores de fatos de terceiros nos EUA por um sistema de sinalização comunitária e afrouxou as restrições sobre temas politicamente sensíveis, como imigração e gênero.

Embora essas mudanças tenham sido feitas para simplificar as políticas de moderação, críticos argumentam que elas enfraquecem as proteções destinadas a manter os usuários seguros.

A Meta já enfrentou escrutínio no passado por sua gestão de conteúdo, incluindo a disseminação de material extremista e seu suposto papel em alimentar violência no mundo real em países como Mianmar e Etiópia.

Embora a falha mais recente pareça ter sido um erro não intencional, ela reacendeu as preocupações sobre a capacidade da empresa de manter um ambiente online seguro.

Veja mais sobre web!