Agorithmic bias ou viés do algoritmo é um termo utilizado para descrever como podemos estar sendo influenciados por recomendações com base em nossos dados pessoais na internet. Com as ferramentas de Big Data cada vez mais onipresentes na web, dados pessoais e perfis com base em nossos acessos na internet, constantemente são analisados e utilizados para definir aquilo que será mostrado em nosso feed.

Notícias, anúncios e todo tipo de informação escolhida sem nossa interferência são mostrados, assumindo serem as informações que gostaríamos de receber. Neste contexto, parece que a análise de dados e definição de nosso perfil e interesses muitas vezes tem mais foco em criar armadilhas cognitivas e comportamentais do que realmente facilitar e enquadrar a informação de maneira adequada.

economia-comportamental-vies-algoritmo-news

Quem nunca recebeu ou visualizou um anúncio com um produto ou serviço que não faz o menor sentido ou que não possui nenhuma relação com suas preferências e gostos pessoais?

Pode parecer bobagem, mas o viés do algoritmo pode ir muito além de “armadilhas” que objetivam nosso consumo fugaz. Algoritmos podem estar afetando como nunca nossos posicionamentos e comportamentos em assuntos como: política, religião, saúde e alimentação. Essa influência vai além da mera exibição de anúncios e pode levar a um estado de alienação permanente.

Ao criar preferências na exibição de determinados assuntos em mecanismos de busca, anúncios em páginas ou mesmo naquilo que aparece primeiro em nossa timeline, os algoritmos podem estar potencializando vieses cognitivos e comportamentais. Alguns destes vieses não raro nos levam a decisões e comportamentos não ótimos e isso em larga escala pode criar efeitos que impactam todo um mercado, sociedade ou economia.

Enquanto escrevo tenho a sensação de que estou exagerando um pouco, mas o viés do algoritmo, tem sido pouco discutido. As discussões têm se restringido à presença notícias falsas (Fake News) e esse é apenas um pequeno pedaço problema.

economia-comportamental-vies-algoritmo-fake-news

O viés do algoritmo afeta claramente o conceito de independência e liberdade e nos expõe cada vez mais a resultados de escolhas que não foram feitas por nós mesmos. Grande parte daquilo que vemos hoje na internet, são resultados de escolhas feitas por programas de computador ou algoritmos. Até onde isso é prejudicial para nosso comportamento e bem-estar?

“O que é liberdade? Liberdade é o direito de escolher: o direito de criar para si alternativas de escolha. Sem a possibilidade de escolha um homem não é um homem, mas um membro, um instrumento, uma coisa. ” Archibald MacLeish, poeta americano vencedor do prêmio Pulitzer

Mesmo quando pesquisamos termos específicos, somos apresentados a resultados ranqueados por relevância. Esta relevância pode considerar dados como nossa localização geográfica, sexo, compras ou pesquisas passadas e mais uma infinidade de outros dados pessoais e de comportamento online que nem sequer sabemos que estão sendo coletados e analisados.

economia-comportamental-vies-algoritmo-privacy

Mais do que refletir sobre a informação que estamos consumindo e como isso pode estar afetando nosso comportamento, crenças, opiniões e decisões, temos que criar métodos de minimizar os efeitos do viés do algoritmo.

Se ficarmos atentos a alguns vieses e adotarmos algumas posturas simples em nosso comportamento na internet, podemos evitar armadilhas cognitivas e comportamentais e com isso minimizar o efeito do viés algoritmo em nosso dia a dia. Foi pensando nisso que resolvi escrever este post destacando alguns vieses e como podemos minimizar os efeitos deles quando estivermos “consumindo” informação da web.

Viés de confirmação

economia-comportamental-confirmation-bias

Na psicologia e na ciência cognitiva, o viés de confirmação (ou viés confirmativo) é uma tendência para pesquisar ou interpretar informações de uma forma que confirma as preconcepções de uma pessoa, levando a erros estatísticos.

O viés de confirmação é um tipo de viés cognitivo e representa um erro de inferência indutiva em direção à confirmação da hipótese em estudo.

O viés de confirmação é um fenômeno em que os tomadores de decisão têm demonstrado que buscam ativamente e atribuem mais peso à evidência que confirma sua hipótese e ignoram ou subestimam evidências que poderiam desmentir sua hipótese.

Viés da representatividade

Antes de ler sobre este viés, veja o trecho do vídeo abaixo.

As pessoas tendem a julgar a probabilidade de um evento com base em um evento “comparável conhecido” assumindo que as probabilidades serão semelhantes. Para criar significado a partir do que experimentamos, precisamos classificar as coisas. Se algo não se encaixa exatamente em uma categoria já conhecida, vamos aproximar com a classe mais próxima disponível.

Então, no vídeo acima, vemos diversas pessoas aproximando Susan Boyle para categorias de péssimas cantoras com base na sua aparência e comportamento no palco. O restante vocês já sabem, ao iniciar seu canto, Susan “desomonta” os pré-julgamentos e encanta a todos, até mesmo aqueles acometidos com viés da representatividade.

Viés da disponibilidade

A heurística da disponibilidade leva as pessoas a fazer julgamentos sobre a probabilidade de um evento com base na facilidade com que um exemplo, uma ocorrência ou um caso vem à mente. Por exemplo, investidores podem julgar a qualidade de um investimento com base em informações vistas recentemente no noticiário, desconsiderando outros fatos importantes (Tversky e Kahneman, 1974).

economia-comportamental-vies-algoritmo-disponibildade

Mesmo estando atendo e conhecendo vieses e heurísticas, ainda assim podemos estar sujeitos ao viés do algoritmo. Se pudesse dar uma dica valiosa, diria que além de conhecer os vieses, para evitar os efeitos do viés do algoritmo é importante não ser afoito.

Ao receber ou ler alguma informação ou ao perceber certa concentração de opiniões em sua timeline, lembre-se de que toda opinião ou posicionamento, tem sempre dois lados e diversas vezes vão existir pontos positivos ou negativos em toda opinião. Dessa forma o melhor mesmo é saber extrair o melhor de cada opinião mesclando com suas visões e convicções.

Depois de ter feito este exercício, sinta-se livre para opinar e compartilhar sua opinião por sem medo e ser produto da manipulação pelo viés do algoritmo.