“Ninguém está pronto para a AGI”: conselheiro deixa a OpenAI em meio a tensão interna

Miles Brundage, conselheiro sênior da OpenAI para a preparação da inteligência geral artificial (AGI), anunciou sua saída da empresa, destacando que nenhuma organização está pronta para lidar com essa tecnologia, nem mesmo a OpenAI. Brundage, que trabalhou por seis anos nas iniciativas de segurança de IA da empresa, enfatizou que a preparação global para AGI é insuficiente e que a própria OpenAI ainda não está preparada para enfrentar os desafios relacionados a essa inovação.

“Nem a OpenAI nem qualquer outro laboratório de ponta está pronto [para a AGI], e o mundo também não está”, escreveu Brundage. “Para deixar claro, não acho que essa seja uma afirmação controversa entre a liderança da OpenAI e, notavelmente, essa é uma questão diferente de saber se a empresa e o mundo estão no caminho certo para estarem prontos no momento relevante”.

Leia também: Empresas de tecnologia defendem diálogo sobre regulação da IA no B20

O comunicado de saída de Brundage veio em um momento em que a OpenAI está desativando duas equipes essenciais para a segurança da IA: a equipe de “Preparação para AGI”, que era chefiada por ele, e a de “Superalinhamento”, que lidava com a redução de riscos em longo prazo relacionados à IA. Essas decisões refletem tensões internas entre a missão original da empresa, voltada para a pesquisa, e suas ambições comerciais, que incluem a possível transição para uma corporação com fins lucrativos, segundo informações do The Verge.

A OpenAI enfrenta pressão para se tornar uma corporação de benefício público com fins lucrativos nos próximos dois anos, sob risco de ter que devolver os US$ 6,6 bilhões recebidos em sua última rodada de investimento, segundo a reportagem. Brundage, que já demonstrava preocupação com a comercialização da OpenAI, havia expressado suas reservas desde 2019, quando a empresa criou sua divisão com fins lucrativos.

Brundage explicou que as limitações cada vez maiores em sua liberdade de pesquisa e publicação foram fatores importantes em sua decisão de deixar a OpenAI. Ele defendeu a importância de vozes independentes nas discussões sobre políticas de IA, livres de influências e interesses das empresas. Fora da OpenAI, Brundage acredita que poderá ter um impacto mais significativo na governança global da IA. Apesar das tensões internas, a OpenAI se dispôs a apoiar seu trabalho futuro, oferecendo financiamento, créditos de API e acesso antecipado a novos modelos, sem exigir contrapartidas.

Nos últimos meses, a OpenAI passou por várias saídas de alto nível, como a de Jan Leike, que criticou a empresa por priorizar o desenvolvimento de produtos em detrimento da segurança, e a do cofundador Ilya Sutskever, que fundou sua própria startup voltada ao desenvolvimento seguro da AGI.

*Com informações do The Verge