Nos últimos meses, o Instagram tem se tornado um espaço preocupante para seus usuários, uma vez que uma crescente quantidade de conteúdos perturbadores e inadequados tem sido exibida, mesmo para aqueles que nunca buscaram por essas postagens. Uma variedade de relatos denuncia vídeos de violência extrema, imagens chocantes e até conteúdos gerados por inteligência artificial, que desafiam as convenções da normalidade. Este fenômeno ocorre em um contexto de mudanças na política de moderação da Meta, empresa mãe que controla o Instagram, o Facebook e o WhatsApp. As preocupações acerca do impacto desse tipo de material se acentuam, sobretudo em relação aos usuários mais jovens.
A incidência de conteúdos indesejados na plataforma tem sido crescente. Ao longo de suas navegações, muitos usuários notaram que o algoritmo do Instagram recomenda conteúdos bizarros ou até violentos, frequentemente de maneira aleatória, sem que haja interação com tais mídias por parte deles. Este contexto é ainda mais alarmante para menores de idade, que ficaram expostos a uma variedade de conteúdos gráficos, tais como imagens de violência extrema e nudez, mesmo com os adequados sistemas de proteção ativados.
A norte-americana Kelly Takasu, de 36 anos, compartilhou sua experiência ao jornal The Washington Post. Segundo ela, uma simples busca por informações sobre amamentação levou o algoritmo a recomendar vídeos estranhos, de mulheres idosas cercadas por bebês, e em questão de dias chegou a mostrar vídeos de comunidades bizarros com inteligência artificial, como híbridos de bebês humanos e pandas. "Percebi que tinha recebido uma recomendação estranha no Reels e acabei olhando por tempo demais. Depois disso, o Instagram começou a me mostrar conteúdos cada vez mais bizarros", declarou Takasu. Para escapar desse ciclo, a usuária precisou redefinir suas preferências de recomendação.
Outros relatos reforçam a gravidade da situação. Courtney, mãe de um adolescente de 17 anos, revelou que seu filho viu conteúdos impactantes, incluindo assassinatos e acidentes de forma online em um único dia. “Foi como um ataque à mente dele”, dizia a mãe, que havia ativado todas as configurações de proteção oferecidas pela plataforma. Esses episódios alarmantes acionaram um sinal de alerta no que diz respeito à responsabilidade social do Instagram e sua política de conteúdos impulsionados.
Diante das críticas, a Meta reconheceu que houve falhas em seu sistema de recomendações, com uma porta-voz explicando que um erro fez com que alguns usuários vissem conteúdos que meramente não deveriam ser sugeridos. A Meta pediu desculpas pela situação. Contudo, problemas persistem, pois as alterações nas diretrizes da plataforma suscitam mais frentes de debate. Recentemente, a empresa anunciou o fim do seu programa de verificação de fatos e relaxou as regras acerca de discursos controversos. Especialistas em tecnologia apontam que mudanças no algoritmo poderiam ter favorecido uma maior exibição de conteúdos extremos, já que estes tipos de materiais tendem a gerar mais engajamento.
Sandra Wachter, professora da Universidade de Oxford, explicou que os algoritmos de recomendação tendem a aprender a partir do comportamento dos usuários, o que resulta na priorização de conteúdos impactantes. “Sabemos que o que mantém as pessoas engajadas é o que é escandaloso, tóxico e sensacionalista”, destacou. Essa dinâmica levanta questões críticas sobre as consequências que esse seletor de conteúdos possa ter, principalmente quando consideramos a saúde mental dos usuários.
A preocupação inserida neste contexto faz com que alguns usuários optem pela desistência da plataforma. Michael Bock, empresário de 31 anos, revelou que, inicialmente, seguia conteúdos leves, mas de uns tempos para cá passou a ser bombardeado com vídeos horríveis de brigas e homicídios. “Não acho que posso continuar contribuindo para uma plataforma que está prejudicando os usuários”, confessou. A situação é preocupante; não autenticados, esses algoritmos exigem uma análise cuidadosa e um reforço nas políticas de moderação para protegerize, principalmente, os públicos mais radicais e em desenvolvimento.
Em meio a essas discussões e a disseminação de conteúdos insolitamente perturbadores, um chamado à ação se faz necessário. A responsabilidade sobre o que flui nas mídias sociais deve ser reavaliada e repensada com certo rigor. Os reflexos do ambiente online sobre a psicologia humana merecem uma atenção urgente em tempos tão complexos.