A OpenAI está considerando a implementação de uma marca d’água nos textos gerados pelo ChatGPT, uma medida desenvolvida para identificar a origem dos conteúdos criados pela inteligência artificial. A tecnologia, que inclui um sistema de marcação e uma ferramenta de detecção, foi concluída há cerca de um ano, mas a decisão sobre seu lançamento ainda não foi tomada.
De acordo com informações do The Wall Street Journal, a marca d’água funcionaria ajustando a forma como o modelo prevê as palavras e frases subsequentes, criando um padrão que pode ser detectado. A eficácia do método é descrita como “99,9% eficaz” e resistente a manipulações, como a parafrasear.
Leia também: Nestlé Brasil aposta nos dados para impulsionar a transformação digital
No entanto, a empresa está preocupada com a possibilidade de que a marca d’água possa desmotivar usuários, com quase 30% dos pesquisados indicando que usariam o ChatGPT com menos frequência caso a tecnologia fosse implementada.
Apesar das preocupações, alguns funcionários acreditam na eficácia da marca d’água. Como alternativa, a OpenAI está explorando a incorporação de metadados, uma abordagem que poderia ser menos controversa, embora ainda não comprovada. A empresa afirmou que está nos “estágios iniciais” dessa exploração e que, devido à natureza criptograficamente assinada dos metadados, não haveria falsos positivos.
*Com informações do TechCrunch
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
As equipes de segurança cibernética enfrentarão um cenário cada vez mais complexo nos próximos anos,…
Apenas uma em cada três pessoas dos Estados Unidos aprova o ritmo acelerado de construção…
Desde o início do ano, a redação acompanha como a Copa do Mundo 2026 extrapola…
A NiCE anunciou a criação do NiCE Labs, um laboratório voltado ao desenvolvimento e à…
A maioria dos programas de transformação corporativa não entrega o que promete. Essa é a…
O Supremo Tribunal Federal (STF) começou a julgar na quarta-feira (10) os recursos apresentados pela…