Algoritmos de Destruição em Massa
Clube do Livro LaCiD
28 de maio de 2026
Roteiro - Caps. 5–8
- Cap. 5 · Máquina de Propaganda - Publicidade predatória e faculdades com fins lucrativos
- Cap. 6 · Baixas Civis - Policiamento preditivo e ciclo da pobreza
- Cap. 7 · Inapto para Servir - ADMs em processos seletivos e avaliação de professores
- Cap. 8 · Bucha de Canhão - Software de escala e o “fechabrir”
- Caso Brasileiro · FIES - Um ADM predatória nacional
Cap. 5 · Máquina de Propaganda
A Promessa Virada do Avesso
Durante os primórdios da era ponto com,
ninguém sabe que você é um cachorro
Hoje é o exato oposto.
Cap. 5 · Máquina de Propaganda
A Internet prometia democratizar a informação - tornou-se o maior laboratório de pesquisa de consumidor já construído
Somos Classificados: pontuados e categorizados em centenas de modelos com base em preferências e padrões exibidos - sem perceber, sem consentir, sem recurso
A Guinada Predatória: ADMs aprenderam a usar cada dado que coleta de nós
Conheça o site Since you arrived
Quem É o Alvo? O Manual da Vatterott
Perfis priorizados no recrutamento predatório
- Mãe no seguro-desemprego - vulnerabilidade máxima, urgência financeira
- Mulher grávida - medo do futuro, pressão por renda
- Recém-divorciada - instabilidade emocional e financeira
- Em recuperação de drogas - baixa autoestima, busca por recomeço
- Saída recente da prisão - estigma no mercado formal de trabalho
- Sem perspectiva - o grupo de maior prioridade no manual interno
- Vítima de violência - fragilidade explorada como oportunidade comercial
Machine Learning a Serviço da Exploração
- Dados de Busca: “Como conseguir emprego rápido”, “curso rápido” - intenção mapeada em milissegundos
- Geolocalização + CEP: Bairros pobres recebem anúncios de faculdades privadas; bairros ricos, de faculdades de elite
- Teste A/B Infinito: Centenas de variações de anúncio competem - a mensagem mais exploradora vence automaticamente
- Machine Learning Preditivo: O programa aprende os “pontos de dor” de cada perfil e personaliza o argumento automaticamente
Corinthian College - A ADM em Números
- 80 mil alunos (maioria financiada pelo governo), US$120 mi/ano em marketing
- Lead qualificado valia US$150 para a faculdade
- Cobrava US$68.800 por graduação online - a mesma formação custava menos de US$10k em faculdades públicas
Cap. 7 · Inapto para Servir
O Caso Kyle Behm
- Estudante da Universidade Vanderbilt com diagnóstico de transtorno bipolar tentou vaga de salário mínimo no Kroger
- Reprovado automaticamente pelo teste da Kronos - tentou em mais 6 redes, todas usavam o mesmo sistema
“Tenho SAT quase perfeito e cursava Vanderbilt. Se não consigo nem emprego de meio período, quão defeituoso eu estou?”
Por que é uma ADM?
- Opacidade - Candidatos não sabem quais respostas os eliminam
- Escala - 60–70% dos candidatos nos EUA passam por testes desse tipo
- Dano - Pessoas com histórico de saúde mental são sistematicamente excluídas
Testes de Personalidade: Perguntas Armadilha
Exemplos reais - Kronos/McDonald’s
- “É difícil manter-se animado quando há muitos problemas” vs. “Às vezes preciso de um empurrão para começar” → culpado por ser irritadiço ou preguiçoso
- “O que melhor o descreve: ímpar ou organizado?” → “Ímpar” = narcisismo; “organizado” = submisso. Não há como vencer.
Pesquisa de Frank Schmidt (U. de Iowa): testes de personalidade são 3× menos preditivos que exames cognitivos - e praticamente inúteis como filtro de contratação.
Triagem Automática de Currículos: O Filtro Invisível
- 72% dos currículos nunca são vistos por humanos
- De 1.000 candidatos: apenas 420 passam pelo filtro ATS, 280 são vistos por humanos, 50 são chamados para entrevista, 12 são contratados
Discriminação Racial Codificada
- Estudo Bertrand & Mullainathan (U. Chicago/MIT, 2004): 5.000 currículos falsos enviados
- “Emily Walsh” (nome branco): 9,65% de retorno
- “Lakisha Washington” (nome negro): 6,45% de retorno
- Mesma qualificação - diferença causada apenas pelo nome
Avaliação de Professores: O Modelo de “Valor Agregado”
- O Caso Tim Clifford: mesmo professor obteve pontuação 6 em um ano e 96 no seguinte - segundo o modelo, é incompetente e gênio ao mesmo tempo
- 1 em cada 4 professores apresenta variação de 40+ pontos entre anos consecutivos
- Conclusão: o modelo mede ruído estatístico, não performance real
Por que é uma ADM?
- Opacidade - Professores não sabem como a fórmula funciona
- Escala - Adotado em dezenas de estados americanos para demissões e bonificações
- Dano - Professores competentes demitidos; os piores nem sempre detectados
Cap. 8 · Bucha de Canhão
O “Fechabrir” (Clopening)
- Definição: Funcionário trabalha até meia-noite para fechar a loja e retorna às 5h da manhã para reabri-la
- Produto direto de softwares de escala que otimizam o custo-por-hora, não o bem-estar do trabalhador
- Escala: 2/3 dos trabalhadores de alimentação nos EUA sujeitos a esse sistema
O Caso Jannette Navarro
- Mãe solteira, barista no Starbucks, tentando cursar faculdade com filho de 4 anos
- Escala mudava sem aviso → creche impossível → trancou os estudos
- 2014: NYT publica o caso; Starbucks promete mudar. 2015: nada mudou.
“Trabalhadores são tratados como engrenagens de Just-in-Time - partes pedidas conforme a demanda, devolvidas quando o fluxo diminui.”
Caso Real Brasileiro
FIES: A ADM Predatória Nacional
| Público-alvo |
CEPs pobres, veteranos |
Periferias, PRONATEC, EJA |
| Isca |
Mobilidade social |
“Primeiro diplomado da família” |
| Financiamento |
FAFSA, Pell Grant |
FIES, ProUni |
| Dano |
Dívida impagável |
Bilhões em inadimplência |
| Colapso |
Corinthian (2015) |
Kroton perde mais 80% do valor em bolsa (2018) |
Síntese: Caps. 5–8
Denominador comum: Opacidade / Escala / Ausência de feedback corretivo / Dano sistemático aos mais vulneráveis
- Cap. 5 · Propaganda: ADMs identificam vulnerabilidade e a transformam em produto
- Cap. 6 · Justiça: ADMs criminalizam a pobreza ao escolher onde olhar
- Cap. 7 · Emprego: ADMs filtram candidatos por proxies não testados
- Cap. 8 · Trabalho: ADMs tratam trabalhadores como peças Just-in-Time descartáveis