Viés humano é problema para futuro da AI ao reforçar tendências individuais

As máquinas não têm preconceito. A inteligência artificial (AI, na sigla em inglês) não permite que algo seja verdadeiro ou falso se não puder ser explicado pela lógica. Entretanto, o viés humano se faz presente no aprendizado de máquina desde a criação de um algoritmo até a interpretação dos dados gerados. A solução para o problema pode estar nas mãos de uma equipe de cientistas da República Tcheca e da Alemanha que conduziu uma pesquisa para determinar o efeito que o viés cognitivo tem na interpretação e criação de regras para machine learning.

Erros humanos se tornam parte da inteligência artificial provando que nossas tendências de generalização são responsáveis pela seleção de uma regra que molda a criação do modelo de aprendizado de máquina. Sendo assim, podemos não estar criando inteligência artificial, mas reforçando nossas próprias observações e promovendo falhas de forma parcial. A falta de estudos nesse campo, porém, revela que é necessário mais esforços para desvendá-lo.

Não percebemos nossas tendências

Em um documento, a equipe explica como 20 diferentes vieses cognitivos podem potencialmente alterar o desenvolvimento de regras de aprendizado de máquina e propõe métodos para ajustar isso. O grupo especificou como “viés de confirmação” (quando uma pessoa aceita um resultado porque esse confirma uma crença anterior) ou “viés de disponibilidade” (colocando maior ênfase em informações relevantes para o indivíduo do que em informações igualmente valiosas de menor familiaridade) podem tornar a ação da máquina no aprendizado dos dados sem sentido (ou longe do que deveria ter).

O pesquisadores apontam que, na maioria das vezes, não sabemos que estamos sendo tendenciosos. Acreditamos que estamos sendo inteligentes, intuitivos ou simplesmente não pensamos sobre isso. Há muito mais do que 20 tipos de preconceitos cognitivos diferentes com os quais os programadores de machine learning precisam se preocupar.

Sendo assim, ainda que esse seja um primeiro passo, é importante que os pesquisadores de todo o mundo aproveitem esse trabalho e descubram novos métodos para evitar o viés cognitivo no aprendizado de máquina. Caso contrário, a inteligência artificial nada mais é do que um amplificador para preconceitos humanos, fadada a robôs ruins.