Startup americana desenvolve tecnologia para combater desinformação eleitoral

Em preparação para as eleições presidenciais dos EUA em 2024, a Anthropic, startup especializada em inteligência artificial (IA), está tomando medidas proativas para combater a desinformação eleitoral. A empresa introduziu o Prompt Shield, uma tecnologia que identifica quando usuários do chatbot GenAI, chamado Claude, buscam informações políticas. O pop-up oferece redirecionamento para fontes “autorizadas”, visando garantir dados de votação precisos.

A iniciativa surgiu devido às limitações do chatbot Claude em fornecer informações em tempo real sobre eleições específicas. A Anthropic reconhece que, devido à falta de treinamento frequente, o chatbot é suscetível a criar informações falsas. A criação do Prompt Shield tem o objetivo de corrigir essas alucinações e está em constante aprimoramento conforme a empresa se prepara para expandir sua implementação.

Leia mais: Governo dos EUA define diretrizes sobre patentes de invenções com IA

Um porta-voz informou ao TechCrunch por e-mail que eles têm o “escudo de prompt” desde o lançamento do Claude, sinalizando vários tipos diferentes de danos com base em sua política de usuário aceitável. Eles também anunciaram que estarão lançando uma intervenção específica para eleições nas próximas semanas, com o objetivo de monitorar o uso e as limitações.

Além disso, eles afirmaram ter conversado com uma variedade de partes interessadas, incluindo formuladores de políticas, outras empresas, sociedade civil e agências não governamentais, bem como consultores específicos para eleições, durante o desenvolvimento desse projeto.

Este ano, com eleições em pelo menos 64 países, os esforços para conter a desinformação eleitoral estão em alta. Outras empresas de tecnologia, como a OpenAI, também estão adotando abordagens semelhantes para evitar abusos em seus chatbots em contextos políticos. A implementação dessas medidas ocorre em um cenário onde ainda não há legislação abrangente nos EUA para regular a participação da IA na política, apesar de um apoio bipartidário a essa iniciativa em andamento.

*Com informações do TechCrunch

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!