OpenAI anuncia grupo consultivo multidisciplinar para segurança de IA

Grupo de especialistas em segurança, tecnologia e políticas será responsável por analisar relatórios para mitigar riscos e orientar a OpenAI

Author Photo
10:55 am - 20 de dezembro de 2023
OpenAI ChatGPT Imagem: Shutterstock

A OpenAI, mãe do ChatGPT, lançou um novo esquema chamado Quadro de Preparação, um método que visa cuidar dos riscos associados ao desenvolvimento de tecnologias avançadas de IA. Uma das abordagens propostas pela empresa no Quadro é a criação de um Grupo Consultivo de Segurança multidisciplinar para analisar os relatórios da Equipe de Preparação da OpenAI e fazer sugestões ao CEO – que embora seja o responsável pela decisão, pode vê-la revogada pelo Conselho de Administração da empresa.

A ideia por trás desse Quadro é estar sempre de olho nos riscos, avaliando e atualizando constantemente os modelos de IA. “A nossa empresa baseia-se na forte ligação entre ciência e engenharia, e o Quadro de Preparação traz essa mesma abordagem ao nosso trabalho em segurança. Aprendemos com a implantação no mundo real e usamos as lições para mitigar riscos emergentes”, diz a empresa.

Leia também: Para diretor da Deal Technologies, IA no Brasil atingirá maturidade em 2026

Por meio de “scorecards” e avaliações contínuas, a empresa busca identificar limites de segurança, gerar relatórios detalhados de risco e implementar medidas adaptadas. Para isso, a iniciativa inclui a criação de um Grupo Consultivo de Segurança para colaborar na prevenção de riscos emergentes. O grupo analisa relatórios da Equipe de Preparação e comunica diretamente à Liderança e ao Conselho de Administração da empresa.

“Embora a Liderança seja o tomador de decisões, o Conselho de Administração detém o direito de reverter as decisões”, destaca a OpenAI.

Em outubro, foi formada a Equipe de Prevenção, liderada por Aleksander Madry, inicialmente com quatro membros, mas planejando expandir para 15-20, segundo a Bloomberg.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

 

Tags:
Author Photo
Redação

A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.

Author Photo

Newsletter de tecnologia para você

Os melhores conteúdos do IT Forum na sua caixa de entrada.