UE não chega a consenso sobre AI Act e segue debate nesta sexta-feira

Pontos-chave como vigilância com IA, acesso ao código e autorregulação dos desenvolvedores de LLMs são impasses no debate do AI Act na UE

Author Photo
1:27 pm - 08 de dezembro de 2023
união europeia ai act Imagem: Shutterstock

As negociações sobre a Lei de Inteligência Artificial (AI Act) na União Europeia estão em curso, enfrentando impasses significativos. Nesta quinta-feira, após quase 24 horas de debates intensos, os legisladores pausaram as discussões para retomá-las em um terceiro dia de discussão, nesta sexta-feira, evidenciando a complexidade e a delicadeza das questões envolvidas. Com a aproximação das eleições na região, o bloco tem pressa para aprovar a lei.

Durante o debate entre os Estados-membros da UE, a Comissão Europeia e o Parlamento Europeu, foram feitos avanços em direção a um consenso sobre a regulamentação de sistemas de IA generativa. No entanto, pontos cruciais, incluindo o uso de IA em vigilância biométrica para fins de segurança nacional e militares e o acesso ao código-fonte, permanecem indefinidos.

Leia também: Meta, IBM e parceiros expandem modelos de código aberto com a AI Alliance

A proposta de autorregulação para desenvolvedores de modelos de IA generativa, apresentada pela França, Alemanha e Itália de última hora, também gerou pontos de divergência. A proposta dividiu opiniões sobre suas implicações éticas e competitivas, especialmente para empresas específicas como Mistral e Aleph Alpha, que poderiam se beneficiar da aprovação. A discussão continua sem consenso definitivo.

Segundo um documento compartilhado entre os negociadores e visualizado pela Reuters, a Comissão Europeia planeja manter uma lista de modelos de IA considerados como representativos de um “risco sistêmico”. Além disso, os provedores de IA de uso geral serão obrigados a publicar resumos detalhados do conteúdo utilizado para treiná-los.

AI Act: Afinal, do que se trata?

A proposta inicial da lei, surgida em 2021, antecedeu o crescente avanço da IA após o lançamento do ChatGPT, da OpenAI. Seu propósito inicial era supervisionar casos de uso específicos da IA. Entretanto, os alertas sobre os riscos associados à criação de máquinas altamente inteligentes destacaram a urgência de regulamentação e precaução nesse campo. Porém, o rápido avanço da adoção e crescente diversidade de aplicação da tecnologia, fez com que os legisladores repensassem o texto original.

Veja mais: Google anuncia Gemini, seu modelo mais avançado e hábil de IA

O AI Act é uma legislação abrangente proposta pela UE para regulamentar o desenvolvimento e uso da IA. A lei visa estabelecer uma série de regras e restrições para garantir a segurança e a ética na aplicação dessa tecnologia. Ela abrange diversas áreas, desde a proibição de sistemas de IA que possam manipular o comportamento humano até a exigência de transparência nas decisões baseadas em IA.

Para as grandes empresas de tecnologia, o AI Act implica uma mudança significativa em como elas desenvolvem e implementam soluções baseadas em IA. Com sua aprovação, elas serão obrigadas a aderir a padrões mais rigorosos de conformidade, investir em sistemas de monitoramento e cumprir uma série de requisitos específicos para cada categoria de IA, como sistemas de vigilância em tempo real.

Veja também: Meta lança projeto para promover IA generativa segura

Por outro lado, para a sociedade, o AI Act busca garantir a segurança e a proteção dos direitos dos cidadãos em relação ao uso da IA. A lei ofereceria um quadro regulatório para mitigar os riscos associados ao uso inadequado dessa tecnologia, promovendo uma abordagem mais ética e transparente na sua implementação.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

Author Photo
Redação

A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.

Author Photo

Newsletter de tecnologia para você

Os melhores conteúdos do IT Forum na sua caixa de entrada.