O estado norte-americano Nova Hampshire iniciou uma investigação criminal contra uma empresa do Texas após milhares de chamadas automáticas geradas por inteligência artificial (IA) se passarem pelo presidente dos EUA, Joe Biden, orientando os eleitores a não votarem nas primárias do estado. A investigação aberta destaca preocupações crescentes em relação à falta de proteções adequadas em ferramentas de IA.
No final de janeiro, milhares de pessoas em Nova Hampshire receberam chamadas telefônicas falsas que as instruíam a não votar nas primárias estaduais. O procurador-geral John Formella anunciou uma investigação no dia seguinte, chamando as ligações de tentativa ilegal de interferência eleitoral.
Formella tomou medidas contra a empresa de telecomunicações Life Corp., exigindo que interrompesse imediatamente a violação das leis estaduais contra a supressão de votos.
Leia mais: Para 76,6% dos brasileiros, IA vai roubar empregos
Formella não revelou qual empresa usou o software para a deepfake de Biden. Porém, Hany Farid, professor da Universidade da Califórnia em Berkeley especializado em propaganda digital e desinformação, acredita que a gravação tenha sido produzida através do software da ElevenLabs, segundo o Washington Post. Recentemente avaliada em US$1,1 bi, a ElevenLabs permite que usuários clonem vozes de amostras pré-existentes, sem proteções adequadas.
A empresa suspendeu a conta responsável pelo deepfake de Biden. Após o caso, Mati Staniszewski, CEO da ElevenLabs, assegurou o compromisso da empresa em evitar o uso indevido de ferramentas de áudio de IA, prometendo tomar medidas apropriadas em casos relatados.
O incidente ressalta a necessidade de melhores políticas nas empresas de tecnologia para evitar distorções eleitorais. Recentemente, a OpenAI proibiu o uso de suas ferramentas por um desenvolvedor que criou um robô imitando um candidato democrata.
*Com informações do The Washington Post
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
por Carlos Cabral A antiga chefe de segurança cibernética do governo Obama, Jen Easterly, tem…
A Oracle divulgou na última quarta-feira, 10, resultados acima das expectativas para o quarto trimestre…
A OpenAI divulgou na última quarta-feira um relatório revelando que propagandistas ligados à China utilizaram…
A Anthropic enviou ao Congresso dos Estados Unidos, na última quarta-feira, uma série de recomendações…
A Leo, maior revendedora de insumos para marcenaria do Brasil, finalizou a migração de seu…
A NTT Data criou um AI Office no Brasil, uma iniciativa estratégica para inovar no…