IBM promete abrir a caixa-preta da Inteligência Artificial
Novo serviço, disponível na nuvem, dá visibilidade sobre os parâmetros que a IA usa para chegar às recomendações e detecta vieses no momento em que os sistemas estão em execução
Resultados de uma nova pesquisa do Institute for Business Value da IBM revelam que, enquanto 82% das empresas estão considerando implementações de IA, 60% ainda temem problemas de responsabilidade e compliance e 63% não possuem habilidades internamente para gerenciar com confiança a tecnologia.. Naseada nesses dados, a companhia apresentou hoje uma nova tecnologia que dá às empresas mais transparência nos modelos de Inteligência Artificial (IA). Novos controles de detecção e mitigação de vieses na nuvem respondem à necessidade de mais transparência na tomada de decisões.
O novo serviço, disponível na nuvem, com novos recursos de confiança e transparência, dá visibilidade sobre os parâmetros que a IA usa para chegar às recomendações e detecta automaticamente vieses no momento em que os sistemas estão em execução.
Para apoiar a adoção de projetos em IA, a companhia irá disponibilizar para a comunidade open source ferramentas e materiais de educação para incentivar a colaboração global em torno do gerenciamento do viés na IA.
“É hora de traduzir princípios em prática. Estamos dando nova transparência e controle às empresas que usam inteligência artificial e enfrentam o maior risco potencial de qualquer tomada de decisão incorreta”, Beth Smith, General Manager para Watson AI na IBM.
O serviço é executado na IBM Cloud e ajuda as organizações a gerenciar sistemas de IA de uma ampla variedade de players do setor. O IBM Services também trabalhará com as empresas para ajudá-las a aproveitar o novo serviço de software.
Como a tecnologia funciona
Os novos recursos de Confiança e Transparência da IBM trabalham com modelos construídos a partir de uma grande variedade de estruturas de Machine Learning e ambientes construídos com o sistemas como o Watson, Tensorflow, SparkML, AWS SageMaker e AzureM. Isso significa que as organizações podem aproveitar esses novos controles para a maioria dos códigos de IA e demais plataformas utilizadas por outras empresas que atuam neste mercado.
O serviço de software pode ser programado para monitorar os fatores de decisão de qualquer workflow de negócio, podendo ser personalizado para o uso específico das organizações. Além disso, ele é totalmente automatizado e explica a tomada de decisões ao longo da execução. É importante ressaltar que também recomenda automaticamente que dados sejam adicionados ao modelo para ajudar a atenuar qualquer tendência de viés detectada.
As explicações são fornecidas em termos fáceis de entender, mostrando quais fatores ajustaram a decisão em uma direção versus outra, apontando a confiança na recomendação e os fatores por trás dessa confiança. Além disso, os registros de precisão, desempenho, equidade do modelo, e a linhagem dos sistemas de inteligência artificial são rastreados e direcionados para atendimento ao cliente, por motivos regulatórios ou de conformidade – tais como o cumprimento da GDPR.
Todos esses recursos são acessados por meio de painéis de controle visuais, dando aos usuários de negócios a capacidade sem precedentes para compreender, explicar e gerenciar decisões indicadas por IA e reduzir a dependência de habilidades específicas desta tecnologia.
A IBM também está disponibilizando novos serviços de consultoria para ajudar as empresas a projetar processos de negócios e interfaces entre inteligência artificial e humanos para minimizar ainda mais o impacto do viés na tomada de decisões.
Capacitando a comunidade de código aberto para construir uma IA mais justa
Além disso, a IBM Research está disponibilizando para a comunidade de código aberto o toolkit de ferramentas AI Fairness 360, que consiste em uma biblioteca de novos algoritmos, códigos e tutoriais que fornecerá aos acadêmicos, pesquisadores e cientistas de dados ferramentas e conhecimento para integrar detecção de preconceito, enquanto constroem e implementam modelos de Machine Learning.
Embora outros recursos de código aberto tenham se concentrado apenas na verificação de viés nos dados de treinamento, o toolkit de ferramentas IBM AI Fairness 360 criado pela IBM Research ajudará a verificar e atenuar o viés nos modelos de IA. Com isso, convidamos a comunidade global de código aberto a trabalhar em conjunto para promover a ciência e facilitar a abordagem do viés na IA. Mais detalhes sobre a tecnologia podem ser lidos neste link.
Estudo revela prioridades e obstáculos para a implementação da IA convencional
De acordo com o IBM Institute for Business Value AI 2018 Report, há uma mudança significativa na forma como os líderes de negócios analisam o potencial da IA para impulsionar o valor comercial e o crescimento da receita.
Entre as principais descobertas estão que:
– 82% das empresas e 93% das empresas de alto desempenho estão considerando ou avançando na adoção da IA com foco na geração de receita.
– 60% temem questões relacionadas a confiança e 63% não possuem as habilidades para aproveitar o potencial da IA.
– Os CEOs percebem o maior valor da adoção da IA em TI, segurança da informação, inovação, atendimento ao cliente e gerenciamento de riscos.
– A adoção da IA é maior e provavelmente acelerará mais rapidamente em setores mais digitalizados, como os serviços financeiros.
O estudo ouviu cinco mil executivos sênior de empresas de diferentes portes.