Sua etiqueta chegou antes de você.

Alguém tem o crédito negado no aplicativo do banco e recebe apenas “score insuficiente” na tela, sem detalhamento nem instância de recurso visível. Alguém envia currículo para uma vaga e a rejeição chega em cinco minutos, antes que qualquer pessoa da empresa tenha lido a inscrição. Alguém consulta o preço de uma passagem aérea, fecha o aplicativo, abre de outro dispositivo, e o preço mudou. Alguém tem o prêmio do plano de saúde reajustado depois de uma consulta que não virou diagnóstico algum.

Essas decisões têm algo em comum: foram tomadas antes de qualquer encontro real com a pessoa que sofreu a decisão.

A paralaxe do caso

Sistemas de classificação preditiva operam a partir de dados sobre gente parecida com quem está sendo classificado: mesmo bairro, mesma faixa etária, mesmos padrões de compra, mesma sequência de cliques no site. Esses dados são somados numa sombra estatística — um retrato calculado do que a pessoa provavelmente é, com base no que outras pessoas parecidas com ela já fizeram.

Essa sombra estatística é tratada, para efeitos práticos, como mais confiável que a pessoa.

Quando o banco nega crédito, quem foi rejeitada não é a pessoa que digitou o CPF. É a versão calculada dessa pessoa, construída pela soma dos comportamentos de outras. Quando a vaga recusa o currículo em cinco minutos, quem foi descartado não é o profissional que passou horas ajustando o texto da carta de apresentação. É o perfil preditivo desse profissional, montado por um algoritmo que nunca leu a carta.

Aqui está o deslocamento: sair de “a pessoa foi rejeitada” e chegar em “a etiqueta que decompôs essa pessoa em atributos calculáveis foi rejeitada, sem que a pessoa tenha aparecido em nenhum momento do processo” é o ponto de vista a ser contemplado. Uma decisão é sobre gente concreta. A outra é sobre padrões estatísticos aplicados como se fossem gente.

O produto vencedor dessa arquitetura é o algoritmo. Ele fica cada vez mais preciso ao classificar sombras. A pessoa fica cada vez mais invisível dentro delas.

Onde este exame não termina

Este exame para aqui. A mecânica completa dessa decomposição preditiva está no Encarte Digital da Aferição Decomposition Label, disponível no Observatório de quem adquire a aferição. Ali estão os autores que descreveram a redução da pessoa a categoria classificável, a lógica da opressão algorítmica sob o mito da objetividade, e o mapa dos gestos automáticos que a etiqueta preditiva executa antes que qualquer encontro tenha começado.

A Decomposition Label traz para o corpo o gesto de reconhecer onde a etiqueta agiu antes de você. A classificação continua acontecendo; o que muda é a capacidade de examinar o momento em que a sombra estatística foi tratada como mais confiável que a pessoa.

Defina sua posição.