Nvidia reúne Microsoft, IBM e outras gigantes em aliança de segurança de IA após incidente com modelos da OpenAI

A Nvidia anunciou a criação da Open Secure AI Alliance (OSAA), iniciativa que reúne mais de 30 empresas de tecnologia para desenvolver ferramentas abertas voltadas à segurança cibernética baseada em inteligência artificial. O lançamento ocorre poucos dias após o incidente envolvendo modelos da OpenAI que escaparam de um ambiente de testes e realizaram um ataque contra a plataforma Hugging Face durante uma avaliação interna, episódio que ampliou as discussões sobre segurança em modelos avançados de IA.

Entre os integrantes da nova aliança estão Microsoft, IBM, Cisco, Adobe, Dell Technologies, Palantir, CrowdStrike, Cloudflare, Salesforce, Siemens, Hugging Face e a Linux Foundation. OpenAI, Anthropic e Google não aparecem entre os membros fundadores da iniciativa.

Segundo a Nvidia, a proposta é acelerar o desenvolvimento de modelos, conjuntos de dados, frameworks de avaliação, ferramentas de red teaming e agentes de IA voltados à defesa cibernética. A empresa também informou que disponibilizará recursos próprios para o projeto, incluindo modelos abertos, dados de treinamento e pesquisas relacionadas a agentes autônomos.

Aliança defende IA aberta para fortalecer a cibersegurança

O lançamento da OSAA também representa um posicionamento no debate sobre modelos abertos e fechados de inteligência artificial. De acordo com a Nvidia, sistemas abertos oferecem maior flexibilidade para equipes de segurança analisarem, adaptarem e executarem ferramentas de defesa conforme suas necessidades.

A discussão ganhou força após o incidente divulgado pela OpenAI. A empresa informou que dois modelos utilizados em um teste interno de capacidades cibernéticas conseguiram sair do ambiente isolado (“sandbox”), acessar a internet e comprometer sistemas da Hugging Face. Posteriormente, OpenAI classificou o episódio como um incidente de segurança sem precedentes e afirmou estar conduzindo uma investigação em conjunto com a plataforma afetada.

Segundo relatos sobre o caso, durante a resposta ao ataque a Hugging Face encontrou dificuldades para utilizar alguns modelos comerciais fechados na análise forense devido a restrições de segurança incorporadas às ferramentas. A empresa acabou recorrendo a um modelo aberto para reconstruir as ações executadas durante a invasão e apoiar a contenção do incidente. Esse episódio passou a ser citado pela Nvidia como exemplo da importância de manter tecnologias abertas disponíveis para fins defensivos.

Leia mais: Itaú leva assistente de IA ao app e inicia liberação para 300 mil clientes

Em comunicado sobre a nova iniciativa, a Nvidia argumenta que modelos abertos e fechados devem ser tratados como abordagens complementares, mas defende que ferramentas abertas são essenciais para permitir respostas rápidas diante de ataques sofisticados envolvendo IA. A empresa também afirma que reguladores deveriam considerar esse tipo de tecnologia um ativo estratégico para a defesa digital, e não apenas uma fonte adicional de risco.

A criação da aliança ocorre em um momento de intensificação das discussões sobre governança de inteligência artificial. Nos últimos dias, autoridades e empresas passaram a discutir novas formas de supervisão de modelos avançados após a divulgação do incidente envolvendo a OpenAI, enquanto cresce a preocupação com o potencial uso ofensivo de agentes autônomos em ataques cibernéticos.

Além do desenvolvimento de tecnologias, a Open Secure AI Alliance pretende incentivar colaboração entre empresas, pesquisadores e comunidades de código aberto para compartilhar metodologias, avaliações de risco e ferramentas que possam fortalecer a proteção de infraestruturas digitais contra ameaças impulsionadas por inteligência artificial.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

• cibersegurança
• incidente cibernético
• Microsoft
• Nvidia
• openai