Robôs que matam? Cambridge Analytica e Facebook mostram o verdadeiro perigo da AI

Fomos avisados várias vezes que a inteligência artificial (AI, na sigla em inglês) não pode tomar decisões morais e que depende inteiramente de humanos para a ética. Mas quando esses humanos são (alegadamente) Alex Nix, Steve Bannon e Dr. Aleksandr Kogan, estamos todos com problemas. Essa é a análise de Tristan Greene, do The Next Web.

O que acontece é que nesta semana veio à tona a história de que a Cambridge Analytica (supostamente) usou a má ciência, dados roubados e aprendizado de máquina para criar um ensopado tóxico projetado especificamente para radicalizar o povo norte-americano. Teriam sido indevidamente usados 50 milhões de usuários do Facebook pela consultoria política Cambridge Analytica.

Em sua página no Facebook, o fundador da rede social Mark Zuckerberg afirmou que o escândalo foi uma quebra de confiança entre Aleksandr Kogan, Cambridge Analytica e Facebook. “Mas também foi uma quebra de confiança entre o Facebook e as pessoas que compartilham seus dados conosco e que esperam que nós os protejamos. Precisamos corrigir isso”. “Temos a responsabilidade de proteger seus dados, e se não conseguimos, então não merecemos servir vocês”, afirmou.

O caso gira em torno do uso antiético da inteligência artificial. Se você estava esperando um exército de robôs assassinos, considere um cenário mais assustador: engenheiros sociais empenhados em mudar o DNA de nossa sociedade por meio da perversão da ciência com o propósito de propaganda.

Em 2013, um pesquisador de Stanford chamado Michael Kosinski divulgou um livro que “demonstrava” que a AI poderia prever os traços de personalidade de um humano melhor do que as pessoas, usando nada menos do que dados do Facebook.

“É crucial entender que “melhor do que os humanos podem” não é de forma alguma uma medida empírica da capacidade de uma AI. Você pode criar um avião de papel que voe melhor do que os humanos, mas isso não é bom”, alerta Greene.

Para Greene o caso notadamente mostra a verdadeira ameaça da AI. “Pessoas sem ética usando máquinas de propaganda para esforços de engenharia social em escala planetária”, finalizou ele.