De olho na IA generativa, ServiceNow anuncia modelo de linguagem

A ServiceNow anunciou esforços que colocam a empresa de fluxos de trabalho na competitiva corrida que se tornou o desenvolvimento da Inteligência Artificial Generativa. A empresa apresentou o lançamento de um grande modelo de linguagem (large language model, LLM) para geração de código com acesso aberto com o objetivo de tornar a IA generativa mais transparente e acessível e, assim, viabilizar inovações responsáveis em larga escala.

Conduzido pela ServiceNow Research e pela Hugging Face, o novo LLM StartCoder conta com 15 bilhões de parâmetros e segue os princípios de acesso aberto, ciência aberta e governança aberta. Segundo a ServiceNow, o modelo StartCoder foi concebido para tornar a área de IA mais equitativa. Na prática, o que o projeto busca é garantir formas para que desenvolvedores de organizações de todos os tamanhos possam aproveitar o poder da IA generativa e maximizar o impacto da automação em seus negócios tendo em vista os devidos protocolos de governança, segurança e conformidade.

Leia também: Para Wozniak, ChatGPT pode ameaçar a todos nós

O novo LLM, lembra a ServiceNow, é o grande marco mais recente do BigCode Project, uma iniciativa cujo objetivo é desenvolver o estado da arte em sistemas de IA para programação de forma aberta e responsável, com o apoio da comunidade de pesquisa científica aberta em IA. O BigCode Project foi lançado em setembro de 2022 pela ServiceNow Research e a Hugging Face.

“A colaboração da ServiceNow com a Hugging Face expande o compromisso que há muito temos com a excelência em IA”, afirma Harm de Vries, líder do Laboratório de Grandes Modelos de Linguagem da ServiceNow Research e co-líder do BigCode. “Práticas novas e responsáveis de IA para treinar e compartilhar grandes modelos de linguagem são vitais para garantir que protocolos, salvaguardas e licenças adequados sejam implementados para nossos clientes, e o StarCoder está tornando isso possível.”

Leandro von Werra, engenheiro de aprendizagem de máquina da Hugging Face e co-líder do BigCode, destaca que o projeto visa o lançamento de modelos-base potentes, que habilitam a comunidade a construir uma ampla variedade de aplicações. Dessa forma, desenvolvedores podem atuar com mais eficiência do que uma empresa sozinha daria conta para criar. “Esta empreitada demonstra o potencial da programação aberta em nosso trabalho pela democratização da IA”, explica Werra.

Como funciona o StartCoder

O StartCoder foi treinado com 1 trilhão de tokens de códigos com licenças permissivas abrangendo mais de 80 linguagens de programação do conjunto de dados The Stack v1.2, do BigCode. O novo LLM pode ser implantado para levar a programação em pares, tal qual a IA generativa, a aplicações com capacidades como transformação de texto em código e de texto em fluxo de trabalho.

Essas características e possibilidades permitem a engenheiros de software profissionais o poder de solucionar desafios de programação complexos e habilita desenvolvedores amadores a desenvolverem novos software independentemente de suas habilidades técnicas, ­ acelerando as inovações em IA em larga escala.

O modelo será lançado com acesso aberto na plataforma da Hugging Face com licença Code Open RAIL-M, que permite a distribuição sem royalties. Diferentemente de programas de software de código aberto lançados sem restrições de uso, o BigCode lança o modelo com uma licença de modelo de IA responsável, que inclui restrições de uso referentes a modificações e a aplicações do modelo – por exemplo, para impedir que seja usado para gerar ou distribuir códigos maliciosos que possam prejudicar sistemas eletrônicos. Códigos de apoio também foram abertos no GitHub do projeto BigCode.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!