Os serviços da Meta, TikTok e X estão associados à produção de danos para a saúde mental e ao estímulo a comportamentos nocivos e violentos entre crianças e adolescentes, e isso é comprovado tanto por documentos internos quanto por estudos independentes, que citamos a seguir. A situação é tão grave que a principal autoridade de saúde dos EUA emitiu, em 2023, um comunicado público afirmando que redes sociais apresentam risco profundo de danos para os mais jovens.

Documentos da Meta mostram os efeitos tóxicos do Instagram em adolescentes, gerando graves distúrbios mentais e comprometendo a saúde dos jovens.

Pesquisas independentes mostram que o algoritmo do TikTok promove conteúdos violentos para adolescentes, inclusive estimulando suicídio. E quando um de seus usuários, um brasileiro de 19 anos, se matou ao vivo, a empresa correu para proteger a própria imagem antes de chamar a polícia.

O X não tem feito esforços suficientes para acabar com a distribuição de conteúdos de abuso sexual de menores. Da mesma maneira, o Kwai e o TikTok têm tido dificuldades em combater conteúdos de exploração sexual de menores, tornando-se espaços onde a pornografia infantil é promovida e pode trazer lucro.

Além disso, o bullying é um problema generalizado nas redes sociais.

Nesse contexto, uma pesquisa de 2023 mostrou que quase 94% dos brasileiros acreditam que as redes sociais são um ambiente inseguro para crianças e adolescentes, e 74% da população acredita que a falta de regulação das redes sociais contribuiu para os recentes ataques registrados em escolas no país.
E o problema também atinge adultos: Um time de pesquisadores da própria Meta descobriu que 1 em cada 8 usuários do Facebook têm seu sono, trabalho, responsabilidades familiares e relacionamentos gravemente impactados pelo uso da plataforma.

Diversos estudos, investigações e até documentos internos dessas grandes empresas de tecnologia mostram graves problemas nas suas regras de moderação, e na capacidade de fazer essas regras valerem.

Uma análise do próprio Comitê de Supervisão da Meta em 2021 apresentou sérias limitações dos mecanismos de moderação da plataforma. As regras foram consideradas vagas e ambíguas, permitindo abusos tanto na publicação de conteúdos impróprios quanto na remoção de conteúdos que não deveriam ser removidos.

Igualmente grave é o fato de documentos internos da Meta mostrarem que as regras não valem para todos da mesma forma: exceções são feitas para um grupo selecionado de atores, e parte deles se aproveita disso para cometer abusos.

O Google, por sua vez, permite que produtores de conteúdo ganhem dinheiro transmitindo conteúdo extremista ou violento e até já esteve envolvido em um escândalo por disponibilizar em sua loja de aplicativos um simulador de escravidão.
Outras empresas também apresentam problemas sérios. O TikTok foi acusado de permitir a disseminação de discurso de ódio, desinformação e conteúdos violentos por pesquisas em múltiplos países, além de estimular moderadores a agir de forma discriminatória. Enquanto isso, o X tem o histórico de promover ativamente conteúdo extremista em páginas de recomendação, e permitir a veiculação de conteúdo explícito de apoio a massacres.

É amplamente documentada a falta de ação das grandes empresas de tecnologia contra a atuação de criminosos.

Documentos internos da Meta mostram que, mesmo plenamente consciente a respeito da atuação de cartéis de drogas e traficantes de pessoas no Facebook e no Instagram, a empresa foi incapaz de agir efetivamente. Além disso, até anúncios de venda de terras protegidas na Amazônia já foram veiculados pela empresa, cujas plataformas também são usadas para venda ilegal de animais silvestres.

O Google, por sua vez, já frustrou uma promessa de eliminar propagandas fraudulentas oferecendo produtos e serviços que violam seus próprios termos de uso. No auge da pandemia de COVID-19, charlatões usaram plataformas do Google e também da Meta para desencorajar a vacinação e vender falsos tratamentos.
Já o X tem um problema histórico relacionado a abuso sexual de menores e recentemente perdeu profissionais responsáveis justamente por lidar com essa e outras atividades ilegais que prosperam na rede, problema que também vem emergindo no TikTok. E nessas duas plataformas houve uma forte disseminação de conteúdos favoráveis aos ataques em escolas que ocorreram recentemente no Brasil.

Grandes empresas de tecnologia lidam com um problema crônico relacionado a usuários que na verdade são robôs ou perfis falsos, que podem ter como objetivo manipular o debate público e conduzir atividades ilegais.

Apesar de apagarem milhões de contas assim todos os anos, outras milhões seguem surgindo, cada vez mais sofisticadas. Especialistas afirmam que hoje já é muito difícil dizer quantos robôs e contas falsas existem, e as empresas reconhecem ter dificuldade para lidar com um problema que tende a piorar com o avanço de tecnologias de inteligência artificial.
A relevância de robôs e contas falsas é tão grande que existe um ecossistema internacional multimilionário de fornecedores de serviços relacionados a isso, e seu uso já é uma arma política usada há anos em diversos países, inclusive no Brasil.

As grandes empresas de tecnologia têm um longo histórico de investigações por mentir para reguladores, investidores e usuários, e por abusos no uso de dados pessoais.

A Meta teve que pagar uma multa milionária por fornecer informações enganosas à União Europeia no processo de compra do Whatsapp, onde também foi acusada de abuso de poder econômico. Nos Estados Unidos, ela aceitou um acordo milionário por enganar investidores a respeito dos riscos do uso impróprio de dados dos usuários.

O Google já fechou um acordo e foi multado por enganar usuários com relação à coleta de dados privados e por abuso de poder econômico, além de enfrentar uma ação judicial do Departamento de Justiça dos EUA sob acusações de práticas anticompetitivas e ilegais.

O TikTok foi multado pelo processamento ilegal de dados de crianças.

O X (então Twitter) foi multado pela venda ilegal de dados de usuários para publicidade.

A coleta e uso de dados pessoais dos usuários está no centro do modelo de negócios de grandes empresas de tecnologia, e economistas afirmam que dados são o novo petróleo.

As leis de muitos países já impõem restrições para isso visando garantir a privacidade e segurança dos seus cidadãos - mas como os dados valem muito dinheiro, é comum ver essas empresas ignorando limites.

O Google entrou em um acordo milionário após ser acusado de violar privacidade de crianças coletando seus dados indevidamente, teve que pagar milhões de dólares pela coleta imprópria de dados de localização de usuários, e enfrentou processo por acusações de coleta ilegal de dados biométricos.

O TikTok foi multado em US$15,9 milhões por más práticas relacionadas ao uso de dados de crianças.

A Meta já teve que pagar bilhões de dólares por violar a privacidade de usuários e dar acesso indevido a dados pessoais, e o X (então Twitter) foi multado em US$150 milhões pela mesma razão.

O problema é tão grave que especialistas e ex-funcionários dessas empresas dizem que a batalha pela privacidade hoje está quase perdida, e uma solução passa necessariamente por melhor regulação.

Coletando e analisando dados de bilhões de pessoas, as grandes empresas de tecnologia conseguem descobrir informações que não foram fornecidas pelos usuários a respeito das suas vidas - e usam tais informações para venda de publicidade e direcionamento de conteúdo.

Com apenas três curtidas no Facebook, a Meta consegue deduzir se uma pessoa é homossexual - mesmo se essa pessoa não fornecer a informação à empresa. Isso é feito a partir do cruzamento dos dados de pessoas que se declaram homossexuais, com dados de pessoas que não declaram sua orientação sexual mas curtem os mesmos tipos de conteúdo.

Problemas com confidencialidade não são exclusividade da Meta: o Google tem um histórico de permitir que empresas parceiras leiam e-mails privados de seus usuários

O envolvimento ativo de grandes empresas de tecnologia em disputas políticas não é uma novidade.

Documentos internos da Meta mostram que escolhas políticas estão no centro de decisões importantes da empresa há anos, inclusive relacionadas à moderação de conteúdo.

Dados do próprio X (então Twitter) revelaram que seus algoritmos favorecem ideologias específicas, algo que vem se reforçando desde que a empresa foi comprada por Elon Musk. Embora afirme publicamente sua intenção de promover a neutralidade política, ações e mudanças no algoritmo deixam claro um viés.

Há tempos, estudos também mostram que algoritmos do Youtube promovem conteúdos polarizantes.

Nos esforços para barrar as tentativas de regulação, como o PL 2630 / 2020 - projeto de lei que cria obrigações de transparência e responsabilidade para as redes sociais e mecanismos de buscas - as grandes empresas de tecnologia mostraram que estão dispostas a usar o seu poder e recursos financeiros para barrar ou fazer avançar pautas de acordo com seus interesses também aqui no Brasil. Nos EUA, seus donos já foram além e passaram a interferir diretamente em processos eleitorais – o que pode acontecer aqui também.

Um número crescente de estudos mostra que os algoritmos das grandes empresas de tecnologia ativamente levam pessoas a conteúdos extremistas.

Isso já foi identificado em plataformas do Google, Meta, Twitter e TikTok.
Apesar das empresas negarem responsabilidade pela veiculação desse tipo de conteúdo, declarações recentes de Elon Musk e Mark Zuckerberg mostram que eles sabem que suas plataformas não são neutras, e podem ser colocadas a serviço de projetos políticos. Alguns tipos de conteúdos são intencionalmente priorizados pelos algoritmos das plataformas, enquanto outros são despriorizados. Se existem algoritmos programados pelas empresas influenciando a visibilidade de conteúdos, elas são diretamente responsáveis pelo resultado do funcionamento desses algoritmos.

Para além de permitirem e inclusive favorecerem a disseminação de conteúdos desinformativos, as grandes empresas de tecnologia também lucram com isso por meio da venda de anúncios.

Estudos e investigações mostram que a Meta e o TIkTok aceitam anúncios com notícias e informações falsas.

O sistema de anúncios do Google permite que propagandas sejam publicadas em sites dedicados às notícias falsas em diversos países do mundo, financiando esses sites e também gerando receita para a empresa.

Mudanças no sistema de verificação de contas no X que tornaram possível pagar para ter a uma conta verificada (e com isso ter seus conteúdos priorizados pelo algoritmo) geraram uma onda de desinformação.
No TikTok, pesquisadores mostraram por meio de testes que a plataforma é incapaz de barrar anúncios políticos enganosos.