Em preparação para as eleições presidenciais dos EUA em 2024, a Anthropic, startup especializada em inteligência artificial (IA), está tomando medidas proativas para combater a desinformação eleitoral. A empresa introduziu o Prompt Shield, uma tecnologia que identifica quando usuários do chatbot GenAI, chamado Claude, buscam informações políticas. O pop-up oferece redirecionamento para fontes “autorizadas”, visando garantir dados de votação precisos.
A iniciativa surgiu devido às limitações do chatbot Claude em fornecer informações em tempo real sobre eleições específicas. A Anthropic reconhece que, devido à falta de treinamento frequente, o chatbot é suscetível a criar informações falsas. A criação do Prompt Shield tem o objetivo de corrigir essas alucinações e está em constante aprimoramento conforme a empresa se prepara para expandir sua implementação.
Leia mais: Governo dos EUA define diretrizes sobre patentes de invenções com IA
Um porta-voz informou ao TechCrunch por e-mail que eles têm o “escudo de prompt” desde o lançamento do Claude, sinalizando vários tipos diferentes de danos com base em sua política de usuário aceitável. Eles também anunciaram que estarão lançando uma intervenção específica para eleições nas próximas semanas, com o objetivo de monitorar o uso e as limitações.
Além disso, eles afirmaram ter conversado com uma variedade de partes interessadas, incluindo formuladores de políticas, outras empresas, sociedade civil e agências não governamentais, bem como consultores específicos para eleições, durante o desenvolvimento desse projeto.
Este ano, com eleições em pelo menos 64 países, os esforços para conter a desinformação eleitoral estão em alta. Outras empresas de tecnologia, como a OpenAI, também estão adotando abordagens semelhantes para evitar abusos em seus chatbots em contextos políticos. A implementação dessas medidas ocorre em um cenário onde ainda não há legislação abrangente nos EUA para regular a participação da IA na política, apesar de um apoio bipartidário a essa iniciativa em andamento.
*Com informações do TechCrunch
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A Unico, empresa brasileira especializada em identidade digital e biometria facial, ingressou com ações nas…
A Salesforce anunciou parceria com a FIFA como apoiadora oficial da Copa do Mundo de…
Neil Redding será o palestrante de abertura do IT Forum Praia do Forte 2026. Com…
Apesar da consolidação da computação em nuvem como um dos pilares da transformação digital, uma…
As equipes de segurança cibernética enfrentarão um cenário cada vez mais complexo nos próximos anos,…
Apenas uma em cada três pessoas dos Estados Unidos aprova o ritmo acelerado de construção…