6 melhores práticas para uma política corporativa de IA generativa

Considere o escopo dos recursos emergentes de IA antes de mapear o que é melhor para a organização

Author Photo
10:16 am - 17 de abril de 2023
Imagem: Shutterstock

Embora haja uma carta aberta pedindo que todos os laboratórios de IA parem imediatamente o treinamento de sistemas de IA mais poderosos que o GPT-4 por seis meses, a realidade é que o gênio já saiu da lâmpada. Aqui estão algumas maneiras de entender melhor do que esses sistemas são capazes e utilizá-los para construir uma política de uso corporativo eficaz para sua organização.

A IA generativa é a forma de IA de destaque que usa algoritmos não supervisionados e semi-supervisionados para criar novo conteúdo a partir de materiais existentes, como texto, áudio, vídeo, imagens e código. Os casos de uso desse ramo da IA estão explodindo e estão sendo usados pelas organizações para atender melhor os clientes, aproveitar melhor os dados corporativos existentes e melhorar a eficiência operacional, entre muitos outros usos.

Mas, assim como outras tecnologias emergentes, ela não vem sem riscos e desafios significativos. De acordo com uma pesquisa recente da Salesforce com líderes seniores de TI, 79% dos entrevistados acreditam que a tecnologia tem potencial para ser um risco de segurança, 73% temem que ela possa ser tendenciosa e 59% acreditam que seus resultados são imprecisos. Além disso, questões legais precisam ser consideradas, especialmente se o conteúdo generativo criado por IA usado externamente for factual e preciso, tiver direitos autorais ou vier de um concorrente.

Como exemplo, e uma verificação da realidade, o próprio ChatGPT nos diz: “minhas respostas são geradas com base em padrões e associações aprendidas a partir de um grande conjunto de dados de texto e não tenho a capacidade de verificar a precisão ou credibilidade de todas as fontes referenciadas no conjunto de dados”.

Leia mais: Líderes do setor mostram a sabedoria de apostar tudo na IA

Os riscos legais por si só são extensos e, de acordo com a organização sem fins lucrativos Tech Policy Press, eles incluem riscos relacionados a contratos, segurança cibernética, privacidade de dados, práticas comerciais enganosas, discriminação, desinformação, ética, propriedade intelectual e validação.

Na verdade, é provável que sua organização tenha um grande número de funcionários experimentando IA generativa e, à medida que essa atividade passa da experimentação para a implantação na vida real, é importante ser proativo antes que consequências indesejadas aconteçam.

“Quando o código gerado por IA funciona, é sublime”, diz Cassie Kozyrkov, Cientista-Chefe de Decisões do Google. “Mas nem sempre funciona, então não se esqueça de testar a saída do ChatGPT antes de colá-la em algum lugar importante”.

Uma política de uso corporativo e treinamento associado podem ajudar a educar os funcionários sobre alguns dos riscos e armadilhas da tecnologia e fornecer regras e recomendações sobre como tirar o máximo proveito da tecnologia e, portanto, o maior valor comercial sem colocar a organização em risco.

Com isso em mente, aqui estão seis práticas recomendadas para desenvolver uma política de uso corporativo para IA generativa.

Determine o escopo de sua política – A primeira etapa para elaborar sua política de uso corporativo é considerar o escopo. Por exemplo, isso cobrirá todas as formas de IA ou apenas IA generativa? Concentrar-se na IA generativa pode ser uma abordagem útil, pois aborda modelos de linguagem grandes (LLMs), incluindo ChatGPT, sem ter que ferver o oceano no universo da IA. Como você estabelece a governança de IA para o tópico mais amplo é outra questão e existem centenas de recursos disponíveis on-line.

Envolva todas as partes interessadas relevantes em sua organização – Isso pode incluir RH, jurídico, vendas, marketing, desenvolvimento de negócios, operações e TI. Cada grupo pode ver diferentes casos de uso e diferentes ramificações de como o conteúdo pode ser usado ou mal utilizado. Envolver grupos de TI e inovação pode ajudar a mostrar que a política não é apenas uma restrição do ponto de vista do gerenciamento de riscos, mas um conjunto equilibrado de recomendações que buscam maximizar o uso produtivo e os benefícios comerciais e, ao mesmo tempo, gerenciar os riscos comerciais.

Considere como a IA generativa é usada agora e pode ser usada no futuro – Trabalhando com todas as partes interessadas, relacione todos os seus casos de uso internos e externos que estão sendo aplicados hoje e aqueles previstos para o futuro. Cada um deles pode ajudar a informar o desenvolvimento de políticas e garantir que você esteja cobrindo a orla. Por exemplo, se você já vê equipes de propostas, incluindo empreiteiros, experimentando rascunhos de conteúdo ou equipes de produtos experimentando textos de marketing criativos, sabe que pode haver risco de PI [Propriedade Intelectual] subsequente devido a saídas que potencialmente infringem os direitos de PI de outras pessoas.

Esteja em constante desenvolvimento – Ao desenvolver a política de uso corporativo, é importante pensar de forma holística e cobrir as informações que entram no sistema, como o sistema de IA generativa é usado e, em seguida, como as informações que saem do sistema são posteriormente utilizadas. Concentre-se em casos de uso internos e externos e tudo mais. Ao exigir que todo o conteúdo gerado por IA seja rotulado como tal para garantir transparência e evitar confusão com conteúdo gerado por humanos, mesmo para uso interno, pode ajudar a evitar o reaproveitamento acidental desse conteúdo para uso externo ou agir com base na informação pensando que é factual e preciso sem verificação.

Compartilhe amplamente em toda a organização – Como as políticas geralmente são rapidamente esquecidas ou nem mesmo lidas, é importante acompanhar a política com treinamento e educação adequados. Isso pode incluir o desenvolvimento de vídeos de treinamento e hospedagem de sessões ao vivo. Por exemplo, uma sessão de perguntas e respostas ao vivo com representantes de suas equipes de TI, inovação, jurídico, marketing e propostas, ou outros grupos adequados, pode ajudar a educar os funcionários sobre as oportunidades e os desafios futuros. Certifique-se de dar muitos exemplos para ajudar a torná-lo real para o público, como quando grandes casos legais surgem e podem ser citados como exemplos.

Torne-o um documento dinâmico – Como acontece com todos os documentos de política, você deseja torná-lo um documento vivo e atualizá-lo em uma cadência adequada conforme seus casos de uso emergentes, condições externas de mercado e desenvolvimentos ditarem. Fazer com que todas as partes interessadas “assinem” a política ou incorporem-na a um manual de política existente assinado por seu CEO mostrará que ela tem a aprovação deles e é importante para a organização. Sua política deve ser apenas uma das muitas partes de sua abordagem de governança mais ampla, seja para IA generativa ou mesmo IA ou governança de tecnologia em geral.

Isso não pretende ser um aconselhamento jurídico, e seus departamentos jurídico e de RH devem desempenhar um papel de liderança na aprovação e divulgação da política. Mas esperamos que forneça algumas dicas para consideração. Assim como as políticas corporativas de mídia social de uma década ou mais atrás, dedicar tempo a isso agora ajudará a mitigar as surpresas e os riscos em evolução nos próximos anos.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

Newsletter de tecnologia para você

Os melhores conteúdos do IT Forum na sua caixa de entrada.