Anthropic alerta governo Trump sobre riscos cibernéticos expostos por modelos avançados de IA

A Anthropic intensificou seus alertas ao governo dos Estados Unidos sobre os riscos cibernéticos associados aos modelos mais avançados de IA. Segundo reportagem da CNBC, a empresa argumenta que sistemas recentes já demonstram capacidade suficiente para encontrar vulnerabilidades de software e auxiliar na execução de ataques digitais em escala.

O tema ganhou força após os testes conduzidos com o modelo de segurança conhecido como Mythos. A companhia afirma que a evolução dos sistemas exige atenção crescente das autoridades, especialmente em áreas consideradas críticas para a segurança nacional.

Executivos da Anthropic têm defendido a adoção de mecanismos de avaliação e monitoramento mais rigorosos para modelos capazes de executar tarefas complexas relacionadas à segurança cibernética.

Segundo a CNBC, representantes da empresa levaram suas preocupações a integrantes do governo do presidente Donald Trump, argumentando que a velocidade da evolução tecnológica exige atualizações frequentes dos parâmetros regulatórios.

Debate sobre segurança divide setor de inteligência artificial

O posicionamento da Anthropic ocorre em meio a divergências dentro da indústria de IA. Enquanto algumas empresas defendem regras mais rígidas para sistemas avançados, outras alertam que exigências excessivas podem prejudicar a competitividade dos Estados Unidos frente à China.

A Anthropic sustenta que a discussão não se limita à segurança futura. Segundo a empresa, modelos atuais já demonstram habilidades que podem ser exploradas para acelerar processos de descoberta de falhas em softwares e sistemas corporativos.

Leia mais: HPE posiciona rede no centro da era agêntica e mira mercado de energia como próximo desafio

A companhia tem investido em avaliações específicas para medir o potencial de uso indevido de seus modelos e afirma que resultados recentes reforçam a necessidade de mecanismos de proteção mais robustos.

O debate ocorre em um momento de crescimento acelerado dos investimentos em IA generativa e de aumento das preocupações com ataques digitais apoiados por ferramentas automatizadas. Empresas de tecnologia, órgãos governamentais e especialistas em segurança vêm discutindo como equilibrar inovação e mitigação de riscos à medida que os modelos se tornam mais capazes.

A CNBC destaca que a Anthropic defende a criação de estruturas que permitam acompanhar a evolução das capacidades dos sistemas sem impedir o desenvolvimento tecnológico, especialmente em áreas consideradas estratégicas para a economia e a segurança dos Estados Unidos.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!