Anthropic defende regulação equilibrada para IA e alerta contra regras que podem limitar a inovação

A Anthropic defendeu a adoção de uma regulação voltada aos riscos da inteligência artificial (IA) e argumentou que o avanço da tecnologia exige mecanismos de supervisão compatíveis com o potencial impacto dos modelos mais avançados. Em entrevista à CNN, executivos da empresa afirmaram que o setor precisa de regras que aumentem a segurança sem comprometer a capacidade de inovação.

A discussão ocorre em um momento em que governos de diferentes países avaliam novas legislações para IA, impulsionados pela rápida evolução dos modelos generativos e pelo uso crescente da tecnologia em atividades econômicas, serviços públicos e aplicações de defesa.

Segundo a CNN, a Anthropic sustenta que empresas responsáveis pelo desenvolvimento dos modelos mais poderosos devem realizar avaliações rigorosas de segurança antes da disponibilização de novas versões ao mercado, compartilhando informações relevantes com autoridades quando necessário.

Empresa propõe regras proporcionais ao nível de risco dos modelos

De acordo com a reportagem, a Anthropic argumenta que nem todos os sistemas de inteligência artificial apresentam o mesmo potencial de risco e, por isso, a regulamentação deve considerar as capacidades de cada modelo.

A empresa defende uma abordagem baseada em critérios técnicos objetivos para identificar quais sistemas exigem maior supervisão, evitando que ferramentas de menor impacto sejam submetidas às mesmas exigências aplicadas aos modelos mais avançados.

Segundo a CNN, a companhia também considera importante que governos estabeleçam padrões mínimos para testes de segurança, transparência e gerenciamento de riscos antes do lançamento de novos modelos de IA.

Leia mais: “Dados críticos têm que chegar direto na mão do CIO”

Ao mesmo tempo, executivos da Anthropic alertam que regras excessivamente restritivas podem reduzir a capacidade de inovação e dificultar a competição tecnológica, especialmente em um cenário de forte disputa internacional pelo desenvolvimento de inteligência artificial.

Outro ponto destacado pela empresa é a necessidade de coordenação entre diferentes países. Para a Anthropic, a adoção de normas muito distintas entre mercados pode aumentar custos de conformidade, criar barreiras para empresas globais e dificultar a cooperação em temas relacionados à segurança da IA.

A CNN informa que a companhia também defende investimentos públicos em pesquisa sobre segurança da inteligência artificial, incluindo estudos voltados ao comportamento de modelos avançados, métodos de avaliação e técnicas para reduzir riscos associados ao uso indevido da tecnologia.

A discussão sobre regulação ganhou intensidade nos últimos anos com a rápida evolução dos modelos generativos e a expansão de seu uso por empresas, governos e consumidores. Países como membros da União Europeia, Estados Unidos e Reino Unido vêm debatendo diferentes modelos regulatórios para equilibrar inovação, competitividade e proteção da sociedade.

Segundo a CNN, a Anthropic afirma que o setor privado deve participar da construção dessas políticas públicas, fornecendo conhecimento técnico sobre as capacidades e limitações dos sistemas atuais, sem que isso substitua o papel dos governos na definição das regras.

A empresa também reforça que a confiança pública será um elemento importante para a adoção da inteligência artificial em larga escala. Na avaliação apresentada à CNN, mecanismos de governança, testes de segurança e transparência sobre o funcionamento dos modelos tendem a desempenhar papel relevante na expansão do uso corporativo e institucional da tecnologia.

• Anthropic
• IA
• inteligência artificial
• regulação da IA