Anthropic defende regulação da IA e pede foco em transparência e testes de segurança

A discussão sobre regulação da inteligência artificial (IA) segue aquecida após declarações de executivos da Anthropic, uma das principais desenvolvedoras de modelos de IA do mercado. Em entrevista à CNN, representantes da empresa defenderam a criação de regras voltadas à transparência, à segurança e à avaliação dos riscos dos sistemas mais avançados.

A posição surge em um momento de intensificação do debate global sobre governança de IA. Governos, reguladores e empresas discutem como equilibrar inovação tecnológica e mitigação de riscos à medida que modelos se tornam mais capazes e amplamente utilizados.

Segundo a Anthropic, o foco das políticas públicas deve estar nos sistemas de maior capacidade computacional e potencial impacto social. A empresa argumenta que requisitos de testes, auditorias e divulgação de informações podem ajudar autoridades e usuários a compreender melhor os riscos associados às novas gerações de modelos.

A companhia também defende que desenvolvedores realizem avaliações rigorosas antes do lançamento de sistemas avançados, especialmente em áreas relacionadas à cibersegurança, manipulação de informações e uso indevido da tecnologia.

Debate regulatório ganha força nos Estados Unidos

A discussão ocorre enquanto legisladores norte-americanos avaliam diferentes propostas para regulamentar o setor.

Nos últimos meses, parte da indústria tem demonstrado preocupação com iniciativas consideradas excessivamente restritivas, enquanto outros grupos defendem mecanismos mais robustos de supervisão.

De acordo com a CNN, a Anthropic busca uma abordagem intermediária, baseada em exigências proporcionais ao nível de risco apresentado pelos modelos.

Leia também: Startup europeia de IA conversacional humanizada, AENVO, chega ao Brasil

A empresa argumenta que a transparência sobre treinamento, capacidades e limitações dos sistemas pode contribuir para decisões regulatórias mais eficazes sem comprometer a velocidade da inovação.

A Anthropic tem se posicionado com frequência em discussões relacionadas à segurança da IA. A companhia foi fundada por ex-integrantes da OpenAI e recebeu investimentos de empresas como Amazon e Google.

O debate ocorre paralelamente ao avanço acelerado da inteligência artificial generativa, que vem sendo incorporada a produtos corporativos, ferramentas de produtividade, sistemas de desenvolvimento de software e plataformas de atendimento ao cliente.

Segundo a empresa, a criação de padrões claros de avaliação e divulgação de riscos pode ajudar a construir maior confiança na adoção da tecnologia por empresas e governos.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!