Anthropic busca especialista em armas para evitar uso indevido de IA

A Anthropic, empresa norte-americana de inteligência artificial (IA), está ampliando suas iniciativas de segurança ao abrir uma vaga incomum, um especialista em armas químicas e explosivos de alto impacto. O objetivo é reforçar os mecanismos de proteção de seus sistemas e reduzir o risco de uso indevido da tecnologia em contextos sensíveis.

A posição, divulgada recentemente, pede experiência prática em defesa contra armas químicas e conhecimento sobre dispositivos radiológicos, incluindo as chamadas “bombas sujas”. A contratação faz parte de um movimento mais amplo da empresa para antecipar cenários em que suas ferramentas possam ser exploradas para gerar informações perigosas.

De acordo com informações da BBC, a empresa afirma que a função segue uma lógica já adotada em outras áreas sensíveis, nas quais especialistas são incorporados para fortalecer políticas internas e sistemas de mitigação. A estratégia busca garantir que os chamados “guardrails”, limites técnicos e éticos das ferramentas, sejam eficazes diante de ameaças cada vez mais sofisticadas.

Leia mais: Microsoft cria plano premium do Office com Copilot e aposta em IA para ampliar receita corporativa

Esse tipo de abordagem também vem sendo adotado por outras companhias do setor. A OpenAI, por exemplo, mantém vagas voltadas a riscos biológicos e químicos, com foco semelhante na prevenção de usos indevidos da tecnologia.

Debate sobre limites e regulação

Apesar dos esforços das empresas, especialistas alertam para os desafios desse modelo. Um dos pontos levantados é o risco de que, ao treinar sistemas com informações sensíveis, mesmo com restrições, as próprias plataformas passem a concentrar conhecimento crítico sobre armas e materiais perigosos.

Outro fator que intensifica o debate é a ausência de regulamentação internacional específica para o uso de inteligência artificial em contextos relacionados a armamentos. Hoje, não há acordos globais que estabeleçam limites claros ou mecanismos de supervisão para esse tipo de aplicação.

O tema ganha ainda mais relevância em um cenário geopolítico instável, no qual governos têm ampliado o uso de tecnologias avançadas em operações militares e estratégicas.

Tensões com o governo dos EUA

A movimentação da Anthropic ocorre em paralelo a um embate com o governo dos Estados Unidos. A empresa entrou com uma ação judicial após ser classificada como risco para a cadeia de suprimentos, uma decisão que a colocou em posição semelhante à de empresas já alvo de restrições por questões de segurança nacional.

A companhia tem defendido publicamente limites no uso de IA, especialmente em aplicações como armas autônomas e vigilância em massa. Seu cofundador, Dario Amodei, já indicou que a tecnologia ainda não estaria madura o suficiente para esses contextos.

Por outro lado, autoridades norte-americanas têm sinalizado que decisões relacionadas ao uso militar da tecnologia não devem ser determinadas pelas próprias empresas.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!