Empurrar ou pausar a IA: CIOs falam sobre o melhor caminho a seguir

Com o ciclo de hype da IA e a reação subsequente em pleno andamento, os líderes de TI se encontram em um tênue ponto de inflexão em relação ao uso de inteligência artificial na empresa.

Seguindo os severos avisos de Elon Musk e do reverenciado pioneiro da IA Geoffrey Hinton, que recentemente deixou o Google e está divulgando os riscos da IA e um apelo à pausa do desenvolvimento da tecnologia, os líderes de TI estão entrando em contato com instituições, empresas de consultoria e advogados em todo o mundo para obter conselhos sobre o caminho avançar.

“Os recentes comentários cautelosos de CEOs de tecnologia, como Elon Musk, sobre os perigos potenciais da inteligência artificial demonstram que não estamos fazendo o suficiente para mitigar as consequências de nossa inovação”, diz Atti Riazi, Vice-Presidente Sênior e CIO da Hearst. “É nosso dever como inovadores inovar com responsabilidade e entender as implicações da tecnologia na vida humana, na sociedade e na cultura”.

Esse sentimento é repetido por muitos líderes de TI, que acreditam que a inovação em uma sociedade de livre mercado é inevitável e deve ser incentivada, especialmente nesta era de transformação digital – mas apenas com as regras e regulamentações certas para evitar uma catástrofe corporativa ou pior.

“Concordo que uma pausa pode ser apropriada para alguns setores ou certos casos de uso de alto risco, mas em muitas outras situações devemos avançar e explorar rapidamente as oportunidades que essas ferramentas oferecem”, diz Bob McCowan, CIO da Regeneron Pharmaceuticals.

“Muitos membros do conselho estão questionando se essas tecnologias devem ser adotadas ou se vão criar muitos riscos”, acrescenta McCowan. “Eu vejo isso como ambos. Ignore-o ou encerre-o e você perderá uma oportunidade significativa, mas dar acesso irrestrito [aos funcionários] sem controles também pode colocar sua organização em risco”.

Embora as ferramentas de IA estejam em uso há anos, o recente lançamento do ChatGPT para as massas gerou consideravelmente mais controvérsia, dando a muitos CIOs – e seus conselhos – uma pausa sobre como proceder. Alguns CIOs levam os riscos para a indústria – e a humanidade – muito a sério.

“Todos os dias, eu me preocupo mais com isso”, diz Steve Randich, CIO da Financial Industry Regulatory Authority (FINRA), uma importante agência reguladora que se reporta à SEC [Securities and Exchange Commission].

Randich observa um gráfico que viu recentemente que afirma que a capacidade “mental” de um programa de IA excedeu a de um mouse e em 10 anos excederá a capacidade de toda a humanidade. “Considere-me preocupado, especialmente se os programas de IA puderem ser influenciados por agentes mal-intencionados e capazes de hackear, como em códigos nucleares”, diz ele.

George Westerman, Professor Sênior do MIT Sloan School of Management, diz que executivos de empresas em todo o mundo estão buscando conselhos do MIT Sloan e de outras instituições sobre ética, riscos e possíveis responsabilidades do uso de IA generativa. Ainda assim, Westerman acredita que a maioria dos CIOs já se envolveu com seus principais executivos e conselhos de administração e que a própria IA generativa não impõe novas responsabilidades legais que as corporações e seus executivos não cumpram hoje.

“Eu esperaria que, assim como todos os outros executivos de empresas, houvesse cobertura [legal] para suas funções oficiais”, diz Westerman sobre a exposição legal pessoal dos CIOs às consequências da IA, observando a exceção do uso inadequado da tecnologia para ganho pessoal.

Jogando para recuperar o atraso na IA generativa

Enquanto isso, o lançamento do ChatGPT atrapalhou os esforços de supervisão regulatória. A UE planejava promulgar sua Lei de IA no mês passado, mas optou por parar depois que o ChatGPT foi lançado, pois muitos estavam preocupados que as políticas estariam desatualizadas antes de entrar em vigor. E enquanto a Comissão Europeia e seus órgãos governamentais relacionados trabalham para resolver as implicações da IA generativa, os executivos da empresa na Europa e nos EUA estão levando a sério os sinais de alerta.

“À medida que a IA se torna uma parte fundamental de nossa paisagem e a IA restrita se transforma em IA geral – quem se torna responsável? Os chefes de tecnologia, os modelos de máquinas inanimadas? Os intervenientes humanos ratificam/alteram os modelos de formação? A tecnologia está avançando rapidamente, mas os controles e a ética em torno dela não”, diz Adriana Karaaboutis, Chefe de Informações e Diretora Digital do grupo da National Grid, que tem sede no Reino Unido, mas também opera no Nordeste dos Estados Unidos.

“Há um jogo de recuperação aqui. Para este fim e enquanto isso, o gerenciamento da IA na empresa cabe aos CxOs que supervisionam o risco corporativo e organizacional. CTO/CIO/CTO/CDO/CISOs não são mais os donos do risco da informação”, dado o surgimento da IA, afirma a CIDO. “A TI depende do CEO e de todos os CxOs, o que significa que a cultura corporativa e a conscientização dos enormes benefícios da IA, bem como dos riscos, devem ser assumidas”.

A empresa de telecomunicações Ericsson, com sede em Estocolmo, vê grandes vantagens na IA generativa e está investindo na criação de vários modelos de IA generativa, incluindo modelos de linguagem grande, diz Rickard Wieselfors, Vice-Presidente e Chefe de Automação Empresarial e IA da Ericsson.

“Existe uma autocrítica sólida na indústria de IA e estamos levando a IA responsável muito a sério”, diz ele. “Existem várias perguntas sem resposta em termos de direitos de propriedade intelectual do texto ou código-fonte usado no treinamento. Além disso, o vazamento de dados na consulta dos modelos, viés, erros factuais, falta de integridade, granularidade ou falta de precisão do modelo certamente limitam para que você possa usar os modelos.

“Grandes capacidades trazem grandes responsabilidades e apoiamos e participamos do atual espírito de autocrítica e reflexões filosóficas sobre o que a IA pode trazer ao mundo”, diz Wieselfors.

Alguns CIOs, como Brian Kirkland, da Choice Hotels, estão monitorando a tecnologia, mas não acreditam que a IA generativa esteja totalmente pronta para uso comercial.

“Acredito que é importante para a indústria certificar-se de que estão cientes do risco, recompensa e impacto do uso de tecnologias de IA generativa, como o ChatGPT. Existem riscos de propriedade de dados e conteúdo gerado que devem ser compreendidos e gerenciados para evitar impactos negativos para a empresa”, diz Kirkland. “Ao mesmo tempo, há muitas vantagens e oportunidades a serem consideradas. A vantagem será significativa quando houver a capacidade de mesclar com segurança um conjunto de dados privados com os dados públicos nesses sistemas.

“Haverá uma mudança dramática em como a IA e o aprendizado de máquina permitem valor de negócios por meio de tudo, desde conteúdo de IA gerado até análises de negócios complexas e significativas e tomada de decisões”, diz o CIO da Choice Hotels.

Ninguém está sugerindo o controle total de uma tecnologia tão poderosa e transformadora.

Em uma pesquisa recente do Gartner com mais de 2.500 executivos, 45% indicaram que a atenção em torno do ChatGPT os levou a aumentar seus investimentos em IA. Mais de 70% afirmam que sua empresa está atualmente explorando IA generativa e 19% têm pilotos ou uso de produção em andamento, com projetos de empresas como Unilever e CarMax já se mostrando promissores.

Na conferência MIT Sloan CIO, a partir de 15 de maio, Irving Wladawsky-Berger apresentará um painel sobre os riscos e recompensas potenciais de entrar em águas de IA generativa. Recentemente, ele organizou uma discussão pré-conferência sobre a tecnologia.

“Estamos todos entusiasmados com a IA generativa hoje”, disse o ex-Pesquisador de longa data da IBM e atual Pesquisador afiliado do MIT Sloan, citando grandes avanços em genômica esperados devido à IA.

Mas Wladawsky-Berger observou que a devida diligência exigida de quem adota a tecnologia não será uma tarefa simples. “Isso dá muito trabalho”, disse ele. “[Devemos] descobrir o que funciona, o que é seguro e quais testes fazer. Essa é a parte que leva tempo”.

Outro CIO no painel, Wafaa Mamilli, Diretor Digital e de Tecnologia da Zoetis, disse que a IA generativa está dando às empresas farmacêuticas maior confiança na cura de doenças crônicas.

“Devido aos avanços das tecnologias de IA generativa e do poder de computação na pesquisa genética, agora existem testes nos EUA e fora dos EUA, Japão e Europa com o objetivo de curar o diabetes”, disse ela.

Guarda-corpos e diretrizes: fundamentos da IA generativa

Wall Street mais do que notou a rápida adoção da IA generativa pelo setor. De acordo com o IDC, 2022 foi um ano recorde para investimentos em startups de IA generativa, com financiamento de capital superior a US$ 2,6 bilhões.

“Seja criação de conteúdo com Jasper.ai, criação de imagem com Midjourney ou processamento de texto com serviços Azure OpenAI, existe um modelo de base de IA generativa para impulsionar vários aspectos do seu negócio”, de acordo com um dos vários relatórios recentes do IDC sobre IA generativa.

E os CIOs já têm os meios de colocar barreiras para avançar com segurança com pilotos de IA generativa, observa McCowan da Regeneron.

“É de extrema importância que você tenha políticas e diretrizes para gerenciar o acesso e os comportamentos daqueles que planejam usar as tecnologias e para lembrar sua equipe de proteger a propriedade intelectual, PII [Informações Pessoais Identificáveis], além de reiterar que o que é compartilhado pode tornar-se público”, diz McCowan.

“Reúna seus inovadores e seus advogados para encontrar um modelo baseado em risco de uso dessas ferramentas e deixe claro quais dados você pode expor e quais direitos você tem sobre o resultado dessas soluções”, diz ele. “Comece a usar as tecnologias com casos de uso menos arriscados e aprenda com cada iteração. Comece ou você perderá”.

O analista da Forrester Research, David Truog, observa que os líderes de IA estão certos em colocar o rótulo de advertência na IA generativa antes que as empresas iniciem pilotos e usem IA generativa na produção. Mas ele também está confiante de que isso pode ser feito.

“Não acho que parar ou pausar a IA seja o caminho certo”, diz Truog. “O caminho mais pragmático e construtivo é ser criterioso na seleção de casos de uso em que IAs especializadas podem ajudar, incorporar grades de proteção ponderadas e ter uma estratégia intencional de lacuna de ar. Isso seria um ponto de partida”.

Um chefe de TI DevOps em uma empresa de consultoria aponta várias maneiras pelas quais os CIOs podem reduzir o risco ao usar IA generativa, incluindo pensar como um capitalista de risco; entender claramente o valor da tecnologia; determinar considerações éticas e legais antes do teste; experimentando, mas sem pressa em investimentos; e considerando as implicações do ponto de vista do cliente.

“Os CIOs inteligentes formarão comitês de supervisão ou farão parceria com consultores externos que podem orientar a organização durante a implementação e ajudar a estabelecer diretrizes para promover o uso responsável”, diz Rod Cope, CTO da Perforce, com sede em Minneapolis. “Embora investir em IA forneça um valor tremendo para a empresa, implementá-la em sua pilha de tecnologia requer consideração cuidadosa para proteger você, sua organização e seus clientes”.

Embora a ascensão da IA generativa certamente tenha impacto nos empregos humanos, alguns líderes de TI, como Ed Fox, CTO da provedora de serviços gerenciados MetTel, acreditam que as consequências podem ser exageradas, embora todos provavelmente tenham que se adaptar ou ficar para trás.

“Algumas pessoas perderão empregos durante o despertar da IA generativa, mas não na medida em que alguns estão prevendo”, diz Fox. “Aqueles de nós que não adotarem a enciclopédia em tempo real serão ignorados”.

Ainda assim, se há um tema certo, é que, para a maioria dos CIOs, proceder com cautela é o melhor caminho a seguir. Assim também é se envolver.

Os CIOs devem encontrar um equilíbrio entre “regulamentos rígidos que sufocam a inovação e diretrizes para garantir que a IA seja desenvolvida e usada com responsabilidade”, diz Tom Richer, Gerente Geral do Wipro’s Google Business Group, observando que está colaborando com sua alma mater, Cornell, e seu AI Initiative, para proceder com prudência.

“É vital que os CIOs e executivos de TI estejam cientes dos possíveis riscos e benefícios da IA generativa e trabalhem com especialistas da área para desenvolver estratégias responsáveis para seu uso”, diz Richer. “Essa colaboração precisa envolver universidades, big tech, think tanks e centros de pesquisa do governo para desenvolver as melhores práticas e diretrizes para o desenvolvimento e implantação de tecnologias de IA”.