Chatbots são uma ameaça à democracia?

12:42 pm - 14 de dezembro de 2018

O texto de hoje é inspirado no excelente artigo do New York Times “Chatbots são um perigo para a Democracia”.

A maioria de nós já deve ter lido dezenas de menções que bots, em especial no Twitter, influenciaram as eleições de Donald Trump, o Brexit e outros momentos políticos importantes no mundo.

Esse estudo da FGV/DAPP mostra como os bots, há anos, têm influenciado a política brasileira. Quem se interessa por monitoramento de redes sociais e política, sugiro o site e o aplicativo Observa2018.

Entendendo melhor bots e eleições.

Para entender melhor esse tema, recomendo olhar textos bem curtos no melhor portal de Educação Política do Brasil: o Politize! O infográfico do início é deles também! Não esqueça de fazer o quiz! É muito bom!

E claro, também vejam a pesquisa do IT&E Desinformação em Eleições: Desequilíbrios acelerados pela tecnologia, capítulo 2, Robôs como Catalisadores da Desinformação.

Os bots essencialmente são usados para viralizar conteúdos positivos ou negativos de alguns candidatos, polarizar e tumultuar o debate democrático nas redes sociais com excesso de conteúdo.

Quais são os riscos?

Nesse cenário, eu me sinto particularmente preocupado com o futuro do uso de bots na política. Os avanços substanciais na inteligência artificial a ser embutida nesses programas me tira um pouco o sono.

Se acham que sou o único, coloquem no google search “bots and democracy” ou “bots e democracia”. E tirem suas conclusões!

Hoje, a maioria dos chatbots que causam danos na democracia são tecnologicamente simples, pois focam sua atuação em gerar volumes de conteúdo para causar os efeitos citados no parágrafo acima.

Porém, em breve, nos veremos conversando com bots sobre política. Já é realidade que chatbots estão ficando inteligentes, como um que supostamente é capaz de passar num exame para médicos do Royal College of General Practitioners do Reino Unido ou a Mitsuku que mantém conversas bem elaboradas.

Departamentos especializados de universidades têm publicado pesquisas sobre Propaganda Computacional, com casos de bots no mundo da política. Mais dois artigos interessantes: Identificando propaganda bots no Twitter e Uma análise de propaganda bots no Twitter

Por sinal, se tiver interesse em testar com quem andam conversando, segue alguns sites para identificar bots ou afins: PegaBot (brasileiro e com participação do IT&E); Hoaxy; Botometer; Botcheck.

E o que fazer nesse contexto?

Esse é um tema complexo e potencialmente polêmico, pois a regulação necessária pode vir a ter forte impacto no uso dessa tecnologia em muitas áreas distintas da política.

Minha posição atual sobre esse tema está descrita na Carta #NãoValeTudo, da qual tenho orgulho de ser um dos fundadores. Copio dois parágrafos que expressam exatamente o que penso.

“Nós repudiamos a manipulação da percepção do público sobre a discussão política realizada a partir da criação e do uso de perfis falsos. Ao fazer crer que contas de redes sociais são controladas por usuários humanos reais e simular movimentações políticas sem lastro real, estas técnicas desviam o foco do debate, muitas vezes servem para inflar ou atacar a imagem de pessoas de forma artificial e desonesta.

O uso de robôs, no entanto, pode ser benéfico para a construção de debates políticos, mas a utilização dessas ferramentas deve ser sempre ostensivamente informada, pois robôs que se passam por humanos podem ser um grande empecilho para um debate transparente, aberto, coletivo, plural e construtivo.”

Em minha opinião, é inaceitável que empresa, político, militante ou qualquer organização faça uso, no contexto eleitoral, de ferramentas tecnológicas que simulem o comportamento humano e dissimulem que são, na verdade, um robô.

Por mais que existem casos de usos triviais, inofensivos e muito úteis de chatbots, é crucial considerar que o uso não identificado abre a porta para usos maliciosos e distópicos. Por isso, infelizmente, por conta do mal uso, temos de debater sobre regular todo o uso!