Ações práticas para governança de IA para desenvolvedores

A inteligência artificial (IA) está transformando diversos setores da sociedade, oferecendo soluções inovadoras que abrangem desde a automação industrial até diagnósticos médicos avançados. Contudo, o rápido progresso dessa tecnologia traz consigo uma série de desafios éticos, legais e sociais. Para garantir que a IA seja desenvolvida e utilizada de maneira responsável, diversas jurisdições estão formulando regulamentações específicas. Essas regulamentações visam proteger os direitos fundamentais e promover a responsabilidade, transparência, segurança e equidade no uso da IA, ao mesmo tempo em que incentivam a inovação e o crescimento econômico.

Diversos países estão avançando com projetos e estudando a implementação de regulamentações para o uso e desenvolvimento de IA. A principal regulamentação global é o AI Act, aprovado pela União Europeia em março deste ano. No Brasil, estamos avançando com o Projeto de Lei 2338/23, inspirado no regulamento europeu, que visa estabelecer normas rigorosas para garantir o uso e desenvolvimento ético e seguro da IA para todos. Contudo, mesmo antes da entrada em vigor da lei, os desenvolvedores de IA já enfrentam grandes desafios ao desenvolver seus modelos, especialmente no que diz respeito à adoção de medidas de governança.

Tanto a regulamentação europeia quanto o projeto brasileiro compartilham princípios semelhantes ao abordar a governança responsável dos modelos de IA, com foco na transparência, privacidade de dados, uso responsável, combate à discriminação e mitigação de vieses. No entanto, um ponto recorrente entre os desenvolvedores de sistema de IA é como efetivar essa governança de maneira prática e eficaz. Nesse contexto, apresentaremos exemplos concretos de como implementar a governança de IA no desenvolvimento de forma prática e eficiente, superando as diretrizes teóricas e oferecendo soluções práticas para os desafios que surgem no campo.

Leia mais: A suspensão do tratamento de dados pessoais para treinamento de IA: medida precautória da ANPD

Para uma governança responsável no desenvolvimento de um modelo de IA, o primeiro passo é a classificação de risco do modelo. Essa classificação define as obrigações que o modelo deve cumprir e determina se ele pode ser implementado no mercado, já que modelos de risco inaceitável são proibidos de serem comercializados. Se o desenvolvedor tiver dúvidas sobre a permissibilidade do seu modelo, algumas ações devem ser tomadas, como a avaliação de impacto e a verificação do respeito aos direitos fundamentais. Essas ações ajudam a determinar o potencial de dano físico, psicológico ou social do modelo. Se o dano for extremamente severo e irreversível, e o modelo infringir direitos fundamentais, é mais provável que seja classificado como de risco inaceitável.

Outro aspecto crucial para os desenvolvedores é a qualidade dos dados utilizados no treinamento dos sistemas de IA. Dados imprecisos, incorretos ou distorcidos podem resultar em resultados falhos e carregados de viés e discriminação. Portanto, é fundamental implementar processos rigorosos de validação e limpeza dos dados de treinamento, assegurando que sejam precisos, completos e consistentes. Além disso, é essencial garantir que os dados utilizados para treinar os modelos de IA sejam diversos e representem adequadamente a população alvo, minimizando, assim, os vieses.

A transparência e a explicabilidade são pilares fundamentais na governança de IA. Se os sistemas de IA operarem como “caixas-pretas”, sem transparência para os usuários, torna-se desafiador para os indivíduos entenderem como suas informações são usadas e como as decisões são tomadas. Para evitar esse problema, algumas medidas estão sendo adotadas. Isso inclui documentar detalhadamente o desenvolvimento e treinamento dos modelos de IA, abrangendo os dados utilizados, os processos de limpeza e preparação dos dados, os algoritmos escolhidos e os ajustes de hiperparâmetros. Além disso, fornecer informações claras ao público sobre o funcionamento do modelo é essencial. Isso pode ser feito por meio de “System Cards”, interfaces de fácil interpretação que demonstram como o modelo opera.

A proteção de dados é um aspecto crucial na governança de IA. Os modelos de IA frequentemente lidam com grandes volumes de dados pessoais, o que pode levar a sérios incidentes no futuro se não forem bem gerenciados. Para mitigar esse risco, é essencial que os modelos sejam desenvolvidos em conformidade com a legislação de proteção de dados, como a LGPD no Brasil. Além disso, é necessário incorporar mecanismos de segurança, como técnicas de anonimização e pseudonimização para proteger a identidade dos indivíduos, e criptografia para proteger dados sensíveis, tanto em trânsito quanto em repouso. Implementar controles de acesso baseados em função (RBAC) também é fundamental para garantir que apenas pessoas autorizadas tenham acesso a dados sensíveis.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!