EUA intensificam combate ao uso de IA na criação de imagens de abuso infantil

Promotores federais dos Estados Unidos (EUA) estão intensificando esforços para processar suspeitos que utilizam inteligência artificial (IA) para gerar imagens de abuso sexual infantil, em um dos primeiros casos em que leis existentes são aplicadas a crimes envolvendo essa tecnologia. Com o rápido avanço da IA, autoridades temem que além de facilitar crimes de exploração infantil, a tecnologia também impulsione fraudes cibernéticas e comprometa a segurança eleitoral, criando novos desafios para o sistema jurídico e de aplicação da lei.

“O que nos preocupa é a normalização disso”, afirmou James Silver, Chefe da Seção de Crimes Cibernéticos e Propriedade Intelectual do Departamento de Justiça, prevendo mais casos semelhantes. “A IA facilita a geração desse tipo de imagem e, quanto mais dessas imagens existirem, mais isso se normaliza. Isso é algo que realmente queremos impedir e combater desde já”.

Leia também: Créditos Universais da Pure Storage prometem flexibilidade no armazenamento de dados

O Centro Nacional para Crianças Desaparecidas e Exploradas recebe cerca de 450 relatos mensais sobre IA generativa, segundo Yiota Souras, Diretora Jurídica da organização. Esse total é uma pequena fração dos 3 milhões de relatos mensais de exploração infantil on-line registrados no ano passado, de acordo com informações da Reuters.

Promotores e defensores alertam que a IA facilita a manipulação de fotos comuns de crianças, o que pode dificultar a identificação de vítimas reais pelas autoridades diante da proliferação de material gerado por IA. Os casos de abuso sexual infantil que envolvem essa tecnologia são algumas das primeiras tentativas de aplicar as leis atuais a crimes digitais. No entanto, eles podem enfrentar apelações devido à complexidade jurídica que a inovação traz para o sistema legal.

Dois casos recentes exemplificam o uso da IA generativa na produção e distribuição de imagens de abuso infantil. O primeiro envolve um engenheiro de software de Wisconsin, acusado de utilizar um modelo de IA para criar imagens explícitas de crianças e compartilhar conteúdo abusivo com um menor. O segundo caso envolve um soldado do Exército dos EUA, indiciado por supostamente usar chatbots para modificar fotos de crianças que conhecia, gerando representações de abuso sexual. Ambos os réus se declararam inocentes, conforme indicado em documentos judiciais.

Além das ações legais, organizações de defesa de crianças estão pressionando empresas de tecnologia a evitar que suas plataformas sejam usadas para criar conteúdo prejudicial. A organização Thorn, por exemplo, obteve compromissos de gigantes como Google, Amazon, Meta e OpenAI para monitorar suas ferramentas e impedir o uso inadequado de suas tecnologias.

Especialistas alertam que, apesar de as leis de pornografia infantil protegerem crianças reais, o cenário jurídico em torno de imagens geradas exclusivamente por IA é menos claro. Há incertezas sobre como essas representações serão tratadas nos tribunais, especialmente após decisões anteriores da Suprema Corte dos EUA que questionam a constitucionalidade de criminalizar representações que não envolvem crianças reais.

*Com informações da Reuters

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!