FTC investiga OpenAI por violações de proteção ao consumidor

Imagem: Shutterstock

A Comissão Federal de Comércio (FTC) dos Estados Unidos está investigando a OpenAI, desenvolvedora do ChatGPT, por possíveis violações às regras do país sobre proteção ao consumidor envolvendo privacidade de dados e declarações falsas sobre terceiros.

De acordo com relatos divulgados na última semana, a FTC enviou um pedido oficial à OpenAI para obter uma ampla gama de dados, abrangendo como a empresa comercializa seus produtos, como identifica e corrige falhas no sistema, como lida com os dados dos clientes e muito mais. O Washington Post publicou um documento de 20 páginas que seria o pedido de informações da FTC, conhecido como ‘demanda civil de investigação’ (CID); O CID contém 49 perguntas para a OpenAI responder sobre suas operações, além de 14 solicitações de documentações relacionadas a essas perguntas.

A FTC tem sido a agência federal dos Estados Unidos mais ativamente envolvida nesse tipo de ação para proteção ao consumidor contra a indústria de tecnologia, em parte porque o processo legislativo geralmente fica muito atrás do ritmo das mudanças no setor de tecnologia. Embora a FTC tenha se recusado a comentar, o CEO da OpenAI, Sam Altman, emitiu uma resposta no Twitter.

“É muito decepcionante ver o pedido da FTC começar com um vazamento e isso não ajuda a construir confiança. Dito isso, é extremamente importante para nós que nossa tecnologia seja segura e pró-consumidor, e temos confiança de que seguimos a lei. É claro que trabalharemos com a FTC”, disse Altman. “Construímos o GPT-4 com base em anos de pesquisa de segurança e passamos mais de 6 meses, depois de concluir o treinamento inicial, tornando-o mais seguro e alinhado antes de lançá-lo. Protegemos a privacidade do usuário e projetamos nossos sistemas para aprender sobre o mundo, não sobre indivíduos privados”.

Colocando um controle sobre como a OpenAI opera

A presidente da FTC, Lina Khan, informou ao Comitê Judiciário da Câmara dos Estados Unidos que sua agência está preocupada que aplicativos de IA generativa voltados para o consumidor, como o ChatGPT da OpenAI, não possuem “verificações” sobre as informações que coletam dos consumidores, de acordo com um artigo do Wall Street Journal.

O impacto da IA generativa em várias indústrias tem sido difícil de ser subestimado, concordam os especialistas. Ryan O’Leary, diretor de Pesquisa do IDC, afirmou que muitos dos problemas envolvidos são comuns às novas tecnologias que chegam ao mercado sem um amplo quadro regulatório estabelecido.

“Quando você iniciou o ChatGPT [em suas primeiras versões], realmente não havia avisos ou termos e condições claros e fáceis de entender que explicavam para onde as informações digitadas no ChatGPT estavam indo”, disse ele. “A forma como o público em geral interage com isso é ‘ah, esta é uma máquina que pode te dizer tudo’ – eles não sabem como ela sabe de tudo”.

Veja mais: Transformação digital, IA e o problema da produtividade

É uma reminiscência, acrescentou O’Leary, do crescimento relâmpago do Facebook quando ele realmente começou a decolar. Na época, os usuários não entendiam completamente o que estava acontecendo com seus dados, o que levou a consequências graves.

“O governo, após o caso Cambridge Analytica, está muito mais cauteloso e tentando impedir adoções mal compreendidas”, disse ele. No ano passado, a Meta, empresa controladora do Facebook, chegou a um acordo em uma ação coletiva buscando indenização por permitir que a empresa de consultoria política britânica Cambridge Analytica tivesse acesso aos dados privados de dezenas de milhões de usuários do Facebook.

A CID aparente dá à OpenAI 14 dias, a partir do recebimento, para responder às perguntas do governo e às solicitações de documentos. A OpenAI também está lidando com vários processos recentes de autores devido ao possível uso de material protegido por direitos autorais como dados de treinamento para seus grandes modelos de linguagem.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!