O dilema das redes e a regulação das plataformas digitais

Em setembro de 2020, foi lançado no Brasil pela Netflix o documentário intitulado O dilema das redes (o título original é The Social Dilemma), que foi exibido em diversos festivais de cinema e ganhador de vários prêmios. Entre outros méritos, ajuda a refletir sobre o papel das redes sociais, inclusive em eleições, especialmente neste momento no Brasil, com o início da propaganda eleitoral geral nas ruas e na internet e do horário eleitoral gratuito no rádio e na televisão.

Dirigido por Jeff Orlowski e com roteiro dele e de Davis Coombe, conta com depoimentos de ex-funcionários e especialistas em tecnologia de grandes plataformas digitais (como Google, Facebook e Twitter, hoje X). Entre os entrevistados, Jaron Lanier, autor do livro Dez argumentos para você deletar agora suas redes sociais (Editora Intrínseca, 2018); Tim Kendal, ex-diretor de monetização do Facebook; Jonathan Haidt, psicólogo, autor, entre outros livros, de A geração ansiosa: como a infância hiperconectada está causando uma epidemia de transtornos mentais (Editora Companhia das Letras, 2024); Ashton Kutcher; Aza Raskin (ex-funcionário da Mozilla); Cathy O’Neil, autora do livro Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia (Editora Rua do Sabão, 2020); e Shoshana Zuboff, autora do livro A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder (Editora Intrínseca, 2021).

Há no documentário também alguns atores, como nas cenas sobre um jovem usuário de redes sociais e sua família, nas quais se discute o uso excessivo de celulares e a tentativa de uma refeição em família sem a presença ou acesso de celulares(e os conflitos que isso gerou).

Um dos objetivos do documentário é analisar os perigos e as consequências do uso excessivo das redes sociais. Ele serviu também como uma das referências para a legislação em alguns países para estabelecer limites ao uso, especialmente entre crianças e adolescentes, além da aprovação de legislação voltada à preservação da privacidade de dados pessoais.

O documentário analisa como as redes não apenas manipulam – e lucram com isso – mas principalmente as consequências sociais, os impactos na saúde mental em relação à dependência digital (uso excessivo), inclusive nos relacionamentos pessoais e nas famílias.

Um aspecto importante não é apenas a crítica, mas a busca de soluções, de conscientização, a demonstração da importância de uma educação digital e também da necessidade de regulação das plataformas digitais, em especial no acesso de crianças e adolescentes, como tem ocorrido em diversos países. Entre eles, a Austrália, que em dezembro de 2025 se tornou o primeiro país a proibir que menores de 16 anos acessem as redes sociais; a Alemanha (menores entre 13 e 16 anos podem usar, mas somente com o consentimento dos pais); Suécia, Espanha, França, Alemanha e outros países da União Europeia, Reino Unido (em 2016, um referendo aprovou o Brexit, início da saída do Reino Unido da União Europeia, formalizado em 2020) e Etiópia, com a compreensão de que esse processo de regulação não deve ser feito pelas próprias plataformas.

Em abril de 2024, a Coalizão Direitos na Rede publicou um relatório sobre regulação de plataformas digitais, analisando leis de 71 países e, entre outros aspectos, a imputação de responsabilidade dos provedores pelos danos causados por conteúdos gerados por terceiros, a remoção de conteúdos ilegais, o aumento da transparência das decisões das plataformas e dos dados dos usuários.

No Brasil, em setembro de 2025, foi aprovada a Lei 15.211, o ECA Digital (Estatuto da Criança e do Adolescente), com regras de proteção, sem determinar um limite de idade para acesso às redes sociais, mas estabelecendo que perfis de usuários com até 16 anos devem estar vinculados à conta de um de seus responsáveis legais.

No documentário O dilema das redes, salienta-se a necessidade de responsabilização das plataformas e de proteção da democracia (vide as articulações de grupos neonazistas pelas redes sociais, como ocorreu recentemente no Brasil, com planos de colocar uma bomba no Palácio do Planalto e atentado contra o presidente Lula, como também ocorreu em dezembro de 2022). Defende-se também a lisura das eleições, o combate às fake news (notícias falsas),  mentiras, e a garantia da privacidade digital e proteção dos usuários.

Um dos participantes do documentário é Tristan Harris, especialista em ética e tecnologia, que foi designer do Google e, depois, diretor executivo e fundador do Center for Humane Technology. Ele mostra como as redes sociais afetam não apenas a percepção das pessoas, mas como isso é feito, com o uso inclusive de especialistas em psicologia humana, para estimular o vício, visando maximizar o lucro das empresas, manipulando opiniões e comportamentos. Ele afirma que tudo o que já fizemos, todos os cliques, os vídeos que assistimos (e assistimos), o que postamos ou recebemos ajudam a criar um modelo que possibilita prever padrões de comportamento.

Ele se refere a uma técnica chamada de reforço positivo intermitente, que visa controlar o comportamento dos usuários, explorar sua vulnerabilidade, transformar tecnologia em vício, criando dependência, mantendo a atenção constante, engajando os usuários o máximo possível por meio de algoritmos, visando maximizar o lucro, além do monitoramento dos acessos, cliques e compartilhamentos.

Um aspecto relevante é o que, na psicologia, se chama de viés de confirmação, com pessoas presas em suas bolhas digitais, que não têm acesso a informações diferentes das suas e, assim, o que recebem – e também ajudam a compartilhar – amplia seu alcance.

Tristan Harris se diz frustrado com a indústria de tecnologia que ajudou a construir, alertando para a manipulação que as plataformas digitais possibilitam, e usa a frase que é uma máxima das empresas de internet: “Se você não está pagando pelo produto, então você é o produto”, referindo-se às estratégias de captura da atenção e engajamento das pessoas nas plataformas, em um espaço dominado por likes (curtidas), shares (ações) e compartilhamentos.

Além disso, como salientam diversos especialistas no documentário, aumentam problemas graves na sociedade e na política em particular, como a desinformação, contribuindo para divisões políticas (polarização, discursos de ódio, violência, preconceitos etc.), compartilhamento de fake news, mentiras (que se espalham muito mais rápido do que a verdade) e teorias da conspiração (como a da Terra plana, por exemplo, recomendada a milhões de pessoas; a negação do aquecimento global; a ineficácia das vacinas; enfim, um conjunto de desinformações que trazem graves consequências, além do que chamam de “prejuízos à saúde mental dos usuários”).

Em relação aos algoritmos, com o uso cada vez mais sofisticado da inteligência artificial, as plataformas dispõem de um conjunto gigantesco de dados sobre as pessoas, com supercomputadores de enorme capacidade de obter, manter e usar dados dos usuários (nome, idade, e-mail, CPF, geolocalização etc.), que podem ser usados inclusive contra eles mesmos. Como afirma Jeff Seibert, que foi funcionário do Twitter, cada ação que a pessoa realiza é cuidadosamente registrada e monitorada: imagens, textos, compras, curtidas etc.

Sobre os algoritmos e seu papel central nesse processo, no livro Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia, Cathy O’Neil, matemática de formação (Ph.D pela Universidade de Harvard e pós-doutorado pelo MIT — Massachusetts Institute of Technology), refere-se ao que chama de Armas de Destruição Matemáticas (ADMs) e ao processo de destruição que causam: “prometendo eficiência e justiça, elas distorcem o ensino superior, aumentam as dívidas, estimulam o encarceramento em massa, esmagam os pobres em quase todos os momentos e minam a democracia”.

Ela analisa como os algoritmos fazem com que apareçam no feed  (que significa alimentar. Na internet seu uso se refere a lista de atualização, de abastecimento em sequência, na “tela de rolagem”) apenas a opinião e conteúdos de interesse dos usuários, criando bolhas de informação nas quais as pessoas recebem e compartilham em suas redes de contatos sem checar o que recebem, ajudando na disseminação de teorias da conspiração, mentiras e fake news.

A partir de algoritmos e do uso de inteligência artificial, as plataformas redirecionam conteúdos para nichos específicos de pessoas e são capazes de identificar as principais tags e trends nos assuntos dos usuários.

Outros livros importantes – entre os muitos já publicados no Brasil –  destacaria  O filtro invisível: o que a internet está escondendo de você  (Editora Zahar, 2012) de Eli Pariser; Big Tech: a ascensão dos dados e a morte da política (Ubu Editora, 2018), de Evgeny Morozov; Sociedade vigiada: como a invasão da privacidade por grandes corporações e estados autoritários ameaça instalar uma nova distopia (Editora Autonomia  Literária e Outras Palavras, 2020), organizado por Ladislau Dowbor; Políticas da imagem: vigilância e assistência na dadosfera (Ubu Editora, 2021), de Giselle Beiguelman e A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder, de Shoshana Zuboff (Editora Intrínseca, 2021).

Neste último, Shoshana Zuboff analisa a forma como o capitalismo de vigilância é constituído (As bases do capitalismo de vigilância), seu avanço (O avanço do capitalismo de vigilância) e o que ela chama de Poder instrumentário para uma terceira modernidade e entre outros aspectos (o livro tem 796 páginas), e que essa nova forma de capitalismo“, essa nova ordem econômica baseada na vigilância é uma forma intencional e fundamental para o processo de acumulação de capital no século XXI e ”despe a ilusão de que a forma conectada em rede tem algum tipo de conteúdo moral inerente, que estar ‘conectado’ seja, de alguma forma, intrinsecamente pró-social e inclusivo ou com uma tendência natural à democratização do conhecimento. A conexão digital é agora um meio para fins comerciais de terceiros. Em sua essência, o capitalismo de vigilância é parasítico e autorreferente. Ele revive a velha imagem de Karl Marx desenhou  do capitalismo como um vampiro que se alimenta do trabalho (…)mas em vez do trabalho se alimenta de todo o aspecto de toda a experiência humana”. 

O que se faz o uso de dados das pessoas para lucrarem, e para isso, com ataques sistemáticos à democracia, à privacidade e à liberdade, e a importância de se construir alternativas ao que chama de modelo de negócios corrosivo do capitalismo.

Como ela mostra, os dados extraídos das atividades dos usuários nas redes digitais dependem de imensa infraestrutura com capacidade para detectar, registrar e analisar todo o fluxo informacional nas redes, o que ela denomina capitalismo de vigilância, pode ser considerado Para ela, um dos paradoxos é a retórica que tenta convencer os indivíduos de que a privacidade é algo pessoal, que eles devem ter condições de decidir e controlar as informações, inclusive as que fornecem espontaneamente às big techs (grandes empresas de tecnologia) – o que é um equívoco, porque, no capitalismo, tudo se transforma em dados para essas plataformas, e lucros, possibilitada pelas tecnologias digitais. Ela defende a privacidade como uma questão pública e que os riscos de se renunciar a ela geram impactos sociais, políticos e econômicos.

No livro Big Tech: a ascensão dos dados e a morte da política, Evgeny Morozov mostra como a lógica do capitalismo centrado em dados, que ele denomina capitalismo dadocêntrico, transforma tudo em ativo rentável, desde os relacionamentos pessoais, a vida familiar, as férias, o sono, preferências alimentares etc. E, com a capacidade de predizer e modular o comportamento humano, possibilitando diversas formas de acumulação de riquezas para as empresas, assim como um conjunto de mudanças na política e nas relações sociais que passam a utilizar intensamente essas tecnologias. Ele se refere ao dataísmo como uma espécie de “religião das plataformas e do capitalismo contemporâneo”.

Quanto aos impactos sobre a democracia, são óbvios, inclusive em relação às eleições, com a possibilidade de manipulação do voto, desinformação, mentiras e fake news. Nesse sentido, a proteção de dados, o combate à desinformação, a defesa da privacidade e a transparência são centrais e evidenciam a necessidade e urgência da regulação das plataformas.

Algumas decisões importantes foram aprovadas na legislação de diversos países. No Brasil, destaca-se o Regulamento Geral de Proteção de Dados (GDPR) e a Lei Geral de Proteção de Dados (LGPD), que visam garantir que os dados pessoais dos usuários sejam tratados com segurança e que as plataformas sejam mais transparentes sobre suas práticas de operação, algoritmos e políticas de conteúdo.

Uma das questões centrais hoje – e discutida no documentário O dilema das redes  diz respeito à aprovação de medidas regulatórias capazes de impor limites à sua atuação e a que haja, de fato, soberania digital. Como diz o sociólogo Sergio Amadeu: “Na atual divisão internacional do trabalho, o Brasil tem um papel tecno-econômico secundário: 1) fornecedor de dados de sua população; 2) usuário avançado e comprador de produtos e serviços digitais; 3) desenvolvedor de aplicativos (apps) utilizando e aprimorando as estruturas das big techs“.
(

Daí a importância fundamental da soberania digital, cujo processo de conquista, como ele afirma, só poderá ocorrer se houver o que ele chama de “enfrentamento à lógica do capitalismo dadocêntrico”. Trata-se de uma luta política mais ampla que possa retirar os países da condição de meros consumidores de produtos e serviços criados por sistemas automatizados a partir do tratamento de dados extraídos das respectivas populações, sem qualquer controle e que visam apenas o lucro das plataformas digitais. É necessária a aprovação de leis que sejam capazes de construir uma regulação democrática, para proteger e garantir o exercício dos direitos humanos,  e às liberdades individuais e coletivas.