Pessoas confiam nos algoritmos mais do que as empresas percebem?

Muitas empresas entraram na onda do big data. Eles estão contratando cientistas de dados, funcionários de mineração e usando dados de clientes para insights e criando algoritmos para otimizar suas recomendações. No entanto, essas mesmas empresas geralmente assumem que os clientes são cautelosos com seus algoritmos – e fazem grandes esforços para ocultá-los ou humanizá-los. A análise é de Jennifer M. Log, Julia A. Minson e Don A. Moore, da Harvard Business Review.

Por exemplo, o Stitch Fix, serviço de assinatura de compras on-line que combina julgamento humano e algorítimos, destaca o toque humano do seu serviço em seu marketing. O site explica que para cada cliente, um “estilista selecionará cinco peças [de roupas].” O site refere-se ao seu serviço como “seu parceiro em estilo pessoal” e “seu novo estilista pessoal” e descreve suas recomendações como “personalizadas” e “escolhido a dedo”. Para completar, uma nota do seu estilista acompanha cada remessa de roupas. Em nenhum lugar do site encontra-se o termo “orientado a dados”, embora o Stitch Fix seja conhecido por sua abordagem de ciência de dados e seja frequentemente chamado de “Netflix da moda”.

Parece que quanto mais as empresas esperam que os usuários se envolvam com seus produtos ou serviços, mais eles antropomorfizam seus algoritmos. Considere como as empresas nomeiam seus assistentes virtuais como Siri e Alexa. E como os criadores do Jibo, “o primeiro robô social do mundo”, projetaram um pedaço de plástico descaradamente adorável que ri, canta, tem um olho bonitinho piscando e se move de uma maneira que imita a dança.

Mas é uma boa prática para as empresas mascarar seus algoritmos dessa maneira? Os dólares de marketing são bem gastos na criação de nomes para o Alexa e recursos faciais para o Jibo? Por que estão tão certos de que as pessoas são desencorajadas por algoritmos e seus conselhos?

O poder dos algoritmos

Desde a década de 1950, os pesquisadores têm documentado os vários tipos de previsões que os algoritmos superam as performances dos humanos. Algoritmos superaram médicos e patologistas na previsão da sobrevivência de pacientes com câncer, ocorrência de ataques cardíacos e gravidade de doenças. Algoritmos preveem reincidência de liberdade condicional melhor do que placas de liberdade condicional. Ou até se um negócio vai à falência melhor do que os agentes de crédito.

De acordo com anedotas de um livro clássico sobre a precisão dos algoritmos, muitas dessas primeiras descobertas foram recebidas com ceticismo. Especialistas na década de 1950 relutaram em acreditar que um cálculo matemático simples poderia superar seu próprio julgamento profissional. Esse ceticismo persistiu e se transformou na sabedoria recebida de que as pessoas não confiarão e nem usarão o conselho de um algoritmo. Essa é uma das razões pelas quais tantos artigos hoje ainda aconselham os líderes de negócios sobre como superar a aversão aos algoritmos.

Ainda vemos desconfiança de algoritmos hoje?

Em uma pesquisa recente, descobriu-se que as pessoas não desgostam de algoritmos tanto quanto os estudos anteriores nos faziam acreditar. Na verdade, as pessoas demonstram “apreciação de algoritmo” e confiam mais no mesmo conselho quando pensam que vem de uma pessoa algorítmica. Em seis estudos, pessoas foram perguntadas sobre algumas previsões.

Por exemplo, foi pedido que algumas pessoas previssem a ocorrência de eventos comerciais e geopolíticos (por exemplo, a probabilidade de a América do Norte ou a UE imporem sanções a um país em resposta a ataques cibernéticos); foi pedido a outros para prever a classificação das músicas na Billboard Hot 100; além de um grupo de participantes jogar matchmaker online (eles leram o perfil de namoro de uma pessoa, viram uma foto de seu parceiro em potencial e previram o quanto ela gostaria de ter um encontro com ele).

Em todos os estudos, os participantes foram solicitados a fazer uma previsão numérica, com base no melhor palpite. Depois do palpite inicial, eles receberam conselhos e tiveram a chance de revisar sua previsão. Por exemplo, os participantes responderam: “Qual é a probabilidade de a Tesla Motors entregar mais de 80 mil veículos elétricos movidos a bateria (BEVs) aos clientes no ano calendário de 2016?” Digitando uma porcentagem de 0% a 100%.

Quando os participantes receberam conselhos, eles vieram na forma de outra previsão, que era rotulada como de outra pessoa ou de um algoritmo. Produzimos o conselho numérico usando matemática simples que combinava vários julgamentos humanos. Isso permitiu apresentar com sinceridade o mesmo conselho que “humano” ou “algorítmico”.

Em seguida, foram medidas quantas pessoas mudaram sua estimativa, depois de receber o conselho. Para cada participante, foi capturado um percentual de 0% a 100% para refletir o quanto eles alteraram sua estimativa a partir do palpite inicial. Especificamente, 0% significa que eles ignoraram completamente o conselho e mantiveram sua estimativa original, 50% significa que mudaram sua estimativa na metade do caminho para o conselho, e 100% significa que eles combinaram completamente com o conselho.

Foi descoberto que as pessoas confiavam mais no mesmo conselho quando pensavam que ele provinha de um algoritmo do que de outras pessoas. Esses resultados foram consistentes em todos os estudos dos pesquisadores, independentemente dos diferentes tipos de previsões numéricas.

Além disso, a idade dos participantes não influencia na sua disposição de confiar no algoritmo. Nos estudos, os idosos usavam o aconselhamento algorítmico tanto quanto os mais jovens. O que importava era como os participantes estavam confortáveis com os números. Quanto mais numerados nossos participantes (ou seja, quanto mais perguntas de matemática eles responderam corretamente no teste de 11 itens), mais eles ouviram o aconselhamento algorítmico.

Conselhos de algoritmos

Em um estudo adicional, foram convidados 119 pesquisadores que estudam o julgamento humano para prever o quanto os participantes ouviriam os conselhos quando viessem de uma pessoa versus um algoritmo. Eles tiveram acesso aos mesmos materiais de pesquisa que os participantes tinham visto. Esses pesquisadores, coerentes com o que muitas empresas presumiram, previram que as pessoas mostrariam aversão a algoritmos e confiariam mais nos conselhos humanos – o oposto das descobertas reais.

Além disso, foi separada uma amostra separada de 70 profissionais de segurança nacional que trabalham para o governo dos EUA. Esses profissionais são especialistas em previsão, porque fazem previsões regularmente. Eles fizeram previsões de diferentes eventos geopolíticos e de negócios e que uma amostra adicional de não especialistas (301 participantes on-line) fizesse o mesmo.

Os não-especialistas agiram como os participantes anteriores – eles se basearam mais no mesmo conselho quando pensaram que vinha de um algoritmo do que de uma pessoa para cada uma das previsões. Os especialistas, no entanto, descontaram tanto o conselho do algoritmo quanto o conselho das pessoas. Eles pareciam confiar mais em seus conhecimentos e fizeram revisões mínimas em suas previsões originais.

Após cerca de um ano, para avaliar se o evento realmente ocorreu, foi descoberto que os especialistas e não especialistas fizeram previsões com precisão semelhante quando receberam conselhos de pessoas, porque eles também descontaram esse conselho. Mas quando receberam conselhos de um algoritmo, os especialistas fizeram previsões menos precisas do que os não especialistas.

Em outras palavras, as pessoas parecem apreciar mais os algoritmos quando escolhem entre o julgamento de um algoritmo e o de outra pessoa do que quando escolhem entre o julgamento de um algoritmo e o deles.

Outros pesquisadores descobriram que o contexto da tomada de decisão é importante para como as pessoas respondem aos algoritmos. Por exemplo, um artigo descobriu que, quando as pessoas veem um algoritmo cometendo um erro, é menos provável que confiem nele, o que prejudica sua precisão. Outros pesquisadores descobriram que as pessoas preferem obter recomendações de piadas de um amigo próximo sobre um algoritmo, mesmo que o algoritmo faça um trabalho melhor. Outro artigo descobriu que as pessoas são menos propensas a confiar em conselhos de um algoritmo quando se trata de decisões morais sobre carros autônomos e remédios.

Isso não quer dizer que os clientes, às vezes, não apreciam o “toque humano” por trás dos produtos e serviços. Mas sugere, contudo, que pode não ser necessário investir em enfatizar o elemento humano de um processo conduzido total ou parcialmente por algoritmos. De fato, quanto mais elaborado o artifício, mais os clientes podem se sentir enganados quando aprendem que foram guiados por um algoritmo. O Google Duplex, que chama as empresas para agendar compromissos e fazer reservas, gerou uma repercussão instantânea porque soava “demais” humana e as pessoas se sentiam enganadas.

A transparência pode compensar. Talvez as empresas que se apresentam como impulsionadas principalmente por algoritmos, como Netflix e Pandora, tenham a ideia correta.