Notícias

Startup americana desenvolve tecnologia para combater desinformação eleitoral

Em preparação para as eleições presidenciais dos EUA em 2024, a Anthropic, startup especializada em inteligência artificial (IA), está tomando medidas proativas para combater a desinformação eleitoral. A empresa introduziu o Prompt Shield, uma tecnologia que identifica quando usuários do chatbot GenAI, chamado Claude, buscam informações políticas. O pop-up oferece redirecionamento para fontes “autorizadas”, visando garantir dados de votação precisos.

A iniciativa surgiu devido às limitações do chatbot Claude em fornecer informações em tempo real sobre eleições específicas. A Anthropic reconhece que, devido à falta de treinamento frequente, o chatbot é suscetível a criar informações falsas. A criação do Prompt Shield tem o objetivo de corrigir essas alucinações e está em constante aprimoramento conforme a empresa se prepara para expandir sua implementação.

Leia mais: Governo dos EUA define diretrizes sobre patentes de invenções com IA

Um porta-voz informou ao TechCrunch por e-mail que eles têm o “escudo de prompt” desde o lançamento do Claude, sinalizando vários tipos diferentes de danos com base em sua política de usuário aceitável. Eles também anunciaram que estarão lançando uma intervenção específica para eleições nas próximas semanas, com o objetivo de monitorar o uso e as limitações.

Além disso, eles afirmaram ter conversado com uma variedade de partes interessadas, incluindo formuladores de políticas, outras empresas, sociedade civil e agências não governamentais, bem como consultores específicos para eleições, durante o desenvolvimento desse projeto.

Este ano, com eleições em pelo menos 64 países, os esforços para conter a desinformação eleitoral estão em alta. Outras empresas de tecnologia, como a OpenAI, também estão adotando abordagens semelhantes para evitar abusos em seus chatbots em contextos políticos. A implementação dessas medidas ocorre em um cenário onde ainda não há legislação abrangente nos EUA para regular a participação da IA na política, apesar de um apoio bipartidário a essa iniciativa em andamento.

*Com informações do TechCrunch

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

Recent Posts

ScarletStealer: Brasil é segundo principal alvo de malware que rouba criptomoedas

O Brasil é o segundo país mais atacado do mundo pelo malware ScarletStealer, que tem…

27 minutos ago

Autoridade máxima de saúde pública nos EUA propõe rótulos de advertência nas redes sociais

O cirurgião-geral dos Estados Unidos, Dr. Vivek Murthy, a autoridade máxima em saúde pública do…

3 horas ago

Ex-diretor da NSA junta-se ao conselho da OpenAI para fortalecer segurança cibernética

A OpenAI anunciou na última quinta-feira (13) a nomeação de Paul M. Nakasone, ex-general do…

4 horas ago

Por que o call center na nuvem vai crescer significativamente no Brasil?

O mercado de Contact Center as a Service (CCaas) está em um momento aquecido no…

5 horas ago

5 cursos gratuitos para melhorar a produtividade no trabalho remoto

Um estudo recente do Gartner apontou que, até 2025, cerca de 70% dos trabalhadores do…

6 horas ago

Snowflake concluirá investigação sobre ciberataque que comprometeu 165 clientes

A Snowflake anunciou que encerrará esta semana sua investigação sobre um ciberataque que afetou até…

3 dias ago