Um livro para ficar mais consciente sobre algoritmos

Gosto de livros de tecnologia que se relacionam com contextos maiores. Esse é o caso desse livro. Assim como 21 lições para o século 21 me deixou bastante preocupado com algumas coisas na área de tecnologia, esse também o fez. Porém, se preocupar é o primeiro passo para fazer diferente.

Dos resultados de uma pesquisa no Google à avaliação de crédito no banco os algoritmos decidem bastante coisa sobre nossa vida e influenciam nossas decisões. Cathy trás exemplos de como esses algoritmos podem ser verdadeiras máquinas de destruição da justiça e da democracia e o que podemos fazer hoje para que no futuro possamos ter a certeza que vieses  e preconceitos não estarão incorporados dentro desses algoritmos que automatizarão grande parte da nossa vida

As pessoas acreditam que dados, por serem numéricos e baseados em fatos, representam toda a verdade. Por isso é uma afirmação completamente correta já que a escolha de quais dados serão considerados implica diretamente no resultado de nossos algoritmos. Escolhas preconceituosas levam a algoritmos que só reforçam o preconceito.

WMDs são algoritmos de big data que intencionalmente ou não prejudicam o mundo. Eles geralmente:

• São em grande escala
• Reforçam preconceitos e diferenças
• Não são transparentes
• Criam ciclos viciosos

Um exemplo frequente que tenho visto são os algoritmos usados para pré-avaliar colaboradores. Já parou para pensar que um candidato recusado por um algoritmo pode ter virado “estrela” em outra empresa? Um dos pontos é que essa informação nunca chegará para o algoritmo que inicialmente recusou o candidato e por tanto não será atualizado/ajustado.

Mais atual ainda é contexto politico. Cada vez mais, via micro-targeting (super segmentação de grupos de pessoas), os candidatos poderão aderir a diferentes causas (mesmo que opostas) com diferentes posicionamentos. Você nunca saberá qual “lado” do mesmo candidato seu vizinho está vendo.

O processo de decisão e julgamento humanos são falhos, porém com o tempo eles evoluem, como é caso do racismo. Já os WMDs necessitam que nós, manualmente, os atualizemos para entender novos valores.

Esse é um livro que apresenta alguns pontos de reflexão muito importantes para uma sociedade cada vez mais informatizadas, automatizada e dominada por algoritmos. Definitivamente vale a leitura!