OpenAI avalia implementação de marca d’água no ChatGPT

A OpenAI está considerando a implementação de uma marca d’água nos textos gerados pelo ChatGPT, uma medida desenvolvida para identificar a origem dos conteúdos criados pela inteligência artificial. A tecnologia, que inclui um sistema de marcação e uma ferramenta de detecção, foi concluída há cerca de um ano, mas a decisão sobre seu lançamento ainda não foi tomada.

De acordo com informações do The Wall Street Journal, a marca d’água funcionaria ajustando a forma como o modelo prevê as palavras e frases subsequentes, criando um padrão que pode ser detectado. A eficácia do método é descrita como “99,9% eficaz” e resistente a manipulações, como a parafrasear.

Leia também: Nestlé Brasil aposta nos dados para impulsionar a transformação digital

No entanto, a empresa está preocupada com a possibilidade de que a marca d’água possa desmotivar usuários, com quase 30% dos pesquisados indicando que usariam o ChatGPT com menos frequência caso a tecnologia fosse implementada.

Apesar das preocupações, alguns funcionários acreditam na eficácia da marca d’água. Como alternativa, a OpenAI está explorando a incorporação de metadados, uma abordagem que poderia ser menos controversa, embora ainda não comprovada. A empresa afirmou que está nos “estágios iniciais” dessa exploração e que, devido à natureza criptograficamente assinada dos metadados, não haveria falsos positivos.

*Com informações do TechCrunch

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!