OpenAI anuncia grupo consultivo multidisciplinar para segurança de IA

A OpenAI, mãe do ChatGPT, lançou um novo esquema chamado Quadro de Preparação, um método que visa cuidar dos riscos associados ao desenvolvimento de tecnologias avançadas de IA. Uma das abordagens propostas pela empresa no Quadro é a criação de um Grupo Consultivo de Segurança multidisciplinar para analisar os relatórios da Equipe de Preparação da OpenAI e fazer sugestões ao CEO – que embora seja o responsável pela decisão, pode vê-la revogada pelo Conselho de Administração da empresa.

A ideia por trás desse Quadro é estar sempre de olho nos riscos, avaliando e atualizando constantemente os modelos de IA. “A nossa empresa baseia-se na forte ligação entre ciência e engenharia, e o Quadro de Preparação traz essa mesma abordagem ao nosso trabalho em segurança. Aprendemos com a implantação no mundo real e usamos as lições para mitigar riscos emergentes”, diz a empresa.

Leia também: Para diretor da Deal Technologies, IA no Brasil atingirá maturidade em 2026

Por meio de “scorecards” e avaliações contínuas, a empresa busca identificar limites de segurança, gerar relatórios detalhados de risco e implementar medidas adaptadas. Para isso, a iniciativa inclui a criação de um Grupo Consultivo de Segurança para colaborar na prevenção de riscos emergentes. O grupo analisa relatórios da Equipe de Preparação e comunica diretamente à Liderança e ao Conselho de Administração da empresa.

“Embora a Liderança seja o tomador de decisões, o Conselho de Administração detém o direito de reverter as decisões”, destaca a OpenAI.

Em outubro, foi formada a Equipe de Prevenção, liderada por Aleksander Madry, inicialmente com quatro membros, mas planejando expandir para 15-20, segundo a Bloomberg.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!