Notícias

Startup americana desenvolve tecnologia para combater desinformação eleitoral

Em preparação para as eleições presidenciais dos EUA em 2024, a Anthropic, startup especializada em inteligência artificial (IA), está tomando medidas proativas para combater a desinformação eleitoral. A empresa introduziu o Prompt Shield, uma tecnologia que identifica quando usuários do chatbot GenAI, chamado Claude, buscam informações políticas. O pop-up oferece redirecionamento para fontes “autorizadas”, visando garantir dados de votação precisos.

A iniciativa surgiu devido às limitações do chatbot Claude em fornecer informações em tempo real sobre eleições específicas. A Anthropic reconhece que, devido à falta de treinamento frequente, o chatbot é suscetível a criar informações falsas. A criação do Prompt Shield tem o objetivo de corrigir essas alucinações e está em constante aprimoramento conforme a empresa se prepara para expandir sua implementação.

Leia mais: Governo dos EUA define diretrizes sobre patentes de invenções com IA

Um porta-voz informou ao TechCrunch por e-mail que eles têm o “escudo de prompt” desde o lançamento do Claude, sinalizando vários tipos diferentes de danos com base em sua política de usuário aceitável. Eles também anunciaram que estarão lançando uma intervenção específica para eleições nas próximas semanas, com o objetivo de monitorar o uso e as limitações.

Além disso, eles afirmaram ter conversado com uma variedade de partes interessadas, incluindo formuladores de políticas, outras empresas, sociedade civil e agências não governamentais, bem como consultores específicos para eleições, durante o desenvolvimento desse projeto.

Este ano, com eleições em pelo menos 64 países, os esforços para conter a desinformação eleitoral estão em alta. Outras empresas de tecnologia, como a OpenAI, também estão adotando abordagens semelhantes para evitar abusos em seus chatbots em contextos políticos. A implementação dessas medidas ocorre em um cenário onde ainda não há legislação abrangente nos EUA para regular a participação da IA na política, apesar de um apoio bipartidário a essa iniciativa em andamento.

*Com informações do TechCrunch

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

Recent Posts

99% das empresas de serviços financeiros sofreram ataque de ransomware nos últimos 3 anos

A segurança de dados e a proteção contra ransomware, a implementação de estratégias de IA…

1 hora ago

EXCLUSIVA: CTO da IBM acredita que AIOps será realidade da maioria das empresas

Após experimentações e estudos, 2024 é o ano em que as empresas realmente estão levando…

2 horas ago

Empresas chinesas de IA disputam mercado após restrições da OpenAI

O jornal estatal chinês Securities Times divulgou na terça-feira que a OpenAI, empresa por trás…

3 horas ago

IA precisa de rigor e ética, defende presidente da Febraban

A transformação tecnológica no setor bancário brasileiro atingiu níveis nunca vistos, com um aumento de…

3 horas ago

“É preciso que a comunidade de TI se manifeste”, diz pró-reitor da USP sobre corte em repasses para a Fapesp

Para Paulo Nussenzveig, pró-reitor da Universidade de São Paulo, é preciso que a comunidade empresarial…

16 horas ago

Certifica compra Bry Tecnologia e se funde com a Syngular

A Certifica, especializada em certificados digitais, anunciou a compra do controle acionário da Bry Tecnologia,…

17 horas ago