Uso ético e responsável da IA ainda não é prioridade entre empresas

O uso ético e responsável da Inteligência Artificial não está acompanhando a crescente demanda por produtos e ferramentas que utilizam a tecnologia, revelou um novo estudo realizado pela Fico. De acordo com a 3ª edição do relatório Estado de Inteligência Artificial Responsável em Serviços Financeiros, mais da metade dos entrevistados (52%) diz que o uso de IA tem maior predileção do que há 12 meses.

Contudo, a grande maioria (71%) indicou que dentro das estratégias empresariais, o uso ético e responsável dessa tecnologia não aparece entre as prioridades. O relatório ouviu 100 diretores atuantes na área de IA no setor de serviços financeiros nos Estados Unidos e no Canadá, no último trimestre de 2022.

“Embora tenhamos visto um aumento na demanda por ofertas e produtos financeiros baseados em IA, várias empresas de serviços financeiros ainda não desenvolveram ou parametrizaram padrões de IA responsáveis”, disse Scott Zoldi, Chief Analytics Officer da Fico. “Além de cumprir uma responsabilidade ética com seus clientes, a implementação de padrões de IA responsável explicáveis, auditáveis e éticos ajuda a promover a fidelidade à marca, reduz os riscos reputacionais e permite uma melhor conformidade com os padrões regulatórios”.

Leia também: O bom, o mau e o feio da IA na segurança cibernética

Atualmente, apenas 8% dos entrevistados dizem que suas estratégias de IA estão totalmente maduras, com padrões de desenvolvimento de modelos consistentemente dimensionados em suas organizações. No entanto, na análise da Fico, as empresas estão começando a entender os benefícios da implementação de uma estratégia de IA responsável.

Proporcionar melhores experiências aos clientes (74%) foi citado como o principal benefício da IA responsável, seguido pela criação de novas oportunidades de receita (69%) e pela proteção do valor da marca / minimização do risco de reputação. Essas descobertas destacam que o uso responsável da IA pode proteger as organizações contra riscos e melhorar o relacionamento com os clientes, permitindo que as empresas de serviços financeiros promovam a confiança do cliente para expandir sua participação no mercado.

Definindo IA responsável

Das empresas entrevistadas, 43% relatam dificuldades com estruturas de governança de IA para atender aos requisitos regulatórios e apenas 44% definiram de forma clara e objetiva os padrões de IA responsável no nível do conselho. Apenas 8% das organizações descrevem seus padrões de IA Responsável como maduros, demonstrando que esse é um processo suave para muitas organizações.

Além disso, 57% das organizações não têm consenso sobre como medir o impacto e o viés dos modelos de IA, e metade (50%) não tem um padrão de desenvolvimento de modelos de IA. Os resultados da pesquisa mostram que 27% das corporações ainda não começaram a definir suas capacidades de IA responsável.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!