O estado norte-americano Nova Hampshire iniciou uma investigação criminal contra uma empresa do Texas após milhares de chamadas automáticas geradas por inteligência artificial (IA) se passarem pelo presidente dos EUA, Joe Biden, orientando os eleitores a não votarem nas primárias do estado. A investigação aberta destaca preocupações crescentes em relação à falta de proteções adequadas em ferramentas de IA.
No final de janeiro, milhares de pessoas em Nova Hampshire receberam chamadas telefônicas falsas que as instruíam a não votar nas primárias estaduais. O procurador-geral John Formella anunciou uma investigação no dia seguinte, chamando as ligações de tentativa ilegal de interferência eleitoral.
Formella tomou medidas contra a empresa de telecomunicações Life Corp., exigindo que interrompesse imediatamente a violação das leis estaduais contra a supressão de votos.
Leia mais: Para 76,6% dos brasileiros, IA vai roubar empregos
Formella não revelou qual empresa usou o software para a deepfake de Biden. Porém, Hany Farid, professor da Universidade da Califórnia em Berkeley especializado em propaganda digital e desinformação, acredita que a gravação tenha sido produzida através do software da ElevenLabs, segundo o Washington Post. Recentemente avaliada em US$1,1 bi, a ElevenLabs permite que usuários clonem vozes de amostras pré-existentes, sem proteções adequadas.
A empresa suspendeu a conta responsável pelo deepfake de Biden. Após o caso, Mati Staniszewski, CEO da ElevenLabs, assegurou o compromisso da empresa em evitar o uso indevido de ferramentas de áudio de IA, prometendo tomar medidas apropriadas em casos relatados.
O incidente ressalta a necessidade de melhores políticas nas empresas de tecnologia para evitar distorções eleitorais. Recentemente, a OpenAI proibiu o uso de suas ferramentas por um desenvolvedor que criou um robô imitando um candidato democrata.
*Com informações do The Washington Post
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A plataforma de locação de automóveis Movida lançou um agente de inteligência artificial integrado ao…
A Oracle anunciou Marcelle Paiva como nova vice-presidente de vendas, Go-to-Market (GTM) e ecossistema para…
O mercado de ofertas públicas iniciais voltou a ganhar tração em 2026, impulsionado principalmente pelo…
A Oracle encerrou o quarto trimestre e o ano fiscal de 2026 com resultados recordes,…
A disputa entre Anthropic e OpenAI ganhou novos contornos e se tornou um dos principais…
As áreas de marketing B2B precisam rever sua estrutura operacional para acompanhar a transformação do…