Conselho de Segurança da ONU discute riscos da inteligência artificial e a necessidade de regulamentação ética

Por Charlotte Trueman, Computerworld

Membros do Conselho de Segurança das Nações Unidas se reuniram com dois especialistas na terça-feira (18) para discutir os potenciais riscos e benefícios da inteligência artificial, destacando a necessidade de que países ao redor do mundo coordenem esforços para regular a tecnologia.

Em uma reunião presidida pelo Secretário de Relações Exteriores do Reino Unido, James Cleverly, os 15 membros do conselho ouviram Jack Clark, cofundador da Anthropic, empresa líder em IA, e Zeng Yi, codiretor do Centro de Pesquisa China-Reino Unido para Ética e Governança da IA.

O Conselho de Segurança das Nações Unidas é composto por cinco membros permanentes – China, França, Rússia, Reino Unido e Estados Unidos – e 10 membros não permanentes, eleitos para um mandato de dois anos. Os atuais membros não permanentes incluem Albânia, Brasil, Gana, Japão, Malta, Suíça e Emirados Árabes Unidos.

Leia também: Elon Musk lança xAI para competir com a OpenAI, criadora do ChatGPT

Durante a reunião, os membros enfatizaram a necessidade de estabelecer um quadro ético e responsável para a governança internacional da inteligência artificial. O Reino Unido e os Estados Unidos já começaram a delinear sua posição sobre a regulamentação da inteligência artificial, enquanto pelo menos uma prisão ocorreu na China este ano depois que o governo chinês aplicou novas leis relacionadas à tecnologia.

Malta é o único membro atual não permanente do conselho que também é um estado membro da União Europeia e, portanto, estaria sujeito à lei de IA do bloco, cujo projeto foi confirmado em uma votação no mês passado.

Embora a IA possa trazer enormes benefícios, também representa ameaças à paz, segurança e estabilidade global devido ao seu potencial de uso indevido e sua imprevisibilidade – duas qualidades essenciais dos sistemas de inteligência artificial, afirmou Clark em comentários publicados pelo conselho após a reunião.

Veja mais: IA acabará com esses empregos – mas criará outros também

“Não podemos deixar o desenvolvimento da inteligência artificial exclusivamente nas mãos de atores do setor privado”, disse ele, acrescentando que, sem investimento e regulação por parte dos governos, a comunidade internacional corre o risco de entregar o futuro a um conjunto restrito de atores do setor privado.

Embora o conselho tenha discutido as oportunidades transformadoras apresentadas pela inteligência artificial, como monitorar a crise climática e avanços na pesquisa médica, também foram debatidas preocupações em relação ao potencial da tecnologia de disseminar desinformação ou alimentar operações cibernéticas maliciosas, de acordo com um relatório do conselho após a conclusão da reunião.

Os membros também destacaram a importância de manter a tomada de decisões humanas quando se trata das aplicações militares da tecnologia, como sistemas de armas autônomas.

Enfrentando os vieses da IA

A indústria financeira estima que a IA possa contribuir com até US$ 15 trilhões para a economia global até 2030, afirmou o Secretário-Geral da ONU, António Guterres, observando que a importância da tecnologia foi enfatizada pelo fato de que quase todos os governos, grandes empresas e organizações do mundo estão trabalhando em uma estratégia de IA.

No entanto, ecoando comentários feitos anteriormente neste ano por Margrethe Vestager, Comissária Europeia para a Concorrência, Guterres afirmou que o Alto Comissariado das Nações Unidas para os Direitos Humanos manifestou preocupação com evidências de que a inteligência artificial pode amplificar vieses, reforçar a discriminação e possibilitar novos níveis de vigilância autoritária.

“A [IA generativa] pode ser um momento decisivo para a desinformação e discurso de ódio”, disse ele, argumentando que os governos de todo o mundo precisam trabalhar juntos para apoiar o desenvolvimento de IA que promova a união social, digital e econômica.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!