Empresas que usam agentes de IA no atendimento ao cliente são as primeiras responsáveis por erros e fraudes, alerta especialista

Imagine que você pediu comida por um aplicativo, recebeu uma cobrança errada e foi ao atendimento. Do outro lado, havia um agente de inteligência artificial (IA), autônomo, fluente, convincente. Ele prometeu o reembolso, mas a promessa nunca se materializou. Nesse cenário, a pergunta que fica é: contra quem você entra com processo?

Esse dilema deixou de ser hipotético. Com gigantes implantando agentes de IA em larga escala no atendimento ao consumidor, a fronteira entre a autonomia das máquinas e a responsabilidade humana virou um campo minado jurídico. E o Brasil, com seu arcabouço regulatório ainda em construção, corre contra o tempo.

“Em regra geral, a empresa que faz uso direto da ferramenta de inteligência artificial é a primeira responsável pelos seus resultados e efeitos”, afirma a Professora Dra. Patricia Peck, CEO e sócia-fundadora do Peck Advogados e membro titular do Conselho Nacional de Cibersegurança (CNCiber). “Não dá para pôr a culpa na máquina ou na IA”, sentencia ela.

Mas a realidade é mais complexa. A responsabilidade pode se estender ao desenvolvedor da tecnologia, ao fornecedor da infraestrutura e até a terceiros, especialmente quando o dano decorre de um ataque cibernético contra o próprio sistema de IA. “Isso já vem acontecendo no Brasil”, alerta Patricia.

O princípio da transparência é o eixo central do debate, indica ela. A Lei Geral de Proteção de Dados (LGPD), no artigo 6º, inciso VI, já estabelece esse dever. Na prática, significa que um agente de IA que simula ser humano sem se revelar como entidade sintética fere a legislação e a ética. “Não é ético mentir. A IA fingir ser humano sem se revelar um ente eletrônico viola o dever de informação clara e prévia ao usuário”, indica a advogada. Isso vale para chatbots, robôs de voz e qualquer sistema automatizado que interage com pessoas.

Para garantir essa conformidade, o corpo jurídico das empresas precisa ir além da política de privacidade padrão. Patricia defende a implementação de guardrails, mecanismos de controle que permitam verificação humana, reversão de atos automatizados e justificativa de decisões tomadas por algoritmos. Trata-se de compliance operacional, não só documental.

O cenário se torna ainda mais desafiador quando agentes de IA são usados deliberadamente para cometer fraudes. Golpes com deepfakes de voz, bots que imitam atendentes de bancos e personas artificiais para engenharia social estão em expansão. O instrumental legal existe, alerta Patricia. Segundo ela lembra, o estelionato digital ganhou pena agravada com a Lei nº 15.397/2026; o Código de Defesa do Consumidor responsabiliza empresas que falhem em proteger seus canais; e o Código Civil pune o uso indevido de imagem e voz de pessoas físicas. O problema é a velocidade de execução versus a escala dos ataques.

Do “Know Your Client” ao “Know Your Agent”

Um conceito está mudando o compliance corporativo: o Know Your Agent (KYA). Derivado do já consolidado Know Your Client (KYC) do setor financeiro. Ele parte de uma pergunta que as empresas ainda não conseguem, eventualmente, responder com precisão: você sabe o que o seu agente de IA faz quando ninguém está olhando?

“A empresa ou o banco pode ter responsabilidade civil por negligência se não conseguir evidenciar diligência sobre o agente que colocou em operação”, alerta Patricia. Em outras palavras, não basta contratar uma solução de IA de prateleira e colocar em produção. É preciso auditar, documentar e monitorar de forma contínua.

Nesse contexto, a certificação digital de agentes ganha urgência. O Instituto Nacional de Tecnologia da Informação (ITI) já possui orientações para certificação de máquinas no âmbito da ICP-Brasil. O próximo passo lógico é estender esse padrão para agentes de IA. “É um passo evolutivo. Conseguimos aproveitar o que já temos, mas é necessário atualizar os padrões para atender aos desafios da era agêntica”, revela Patricia.

Sem obrigatoriedade, defende ela, o risco é que cada empresa adote um padrão diferente ou até mesmo nenhum. “O resultado disso é um ambiente de desconfiança e insegurança, o que não é bom para os negócios, para os cidadãos, nem para o Brasil”, avalia a especialista.

Com o Marco Legal da IA em vigor e a Autoridade Nacional de Proteção de Dados (ANPD) incluindo IA formalmente no seu radar de fiscalização em 2026, o cenário regulatório está se fechando. As empresas que saírem à frente, com governança robusta, comitês de ética em IA e políticas claras de uso, não apenas reduzirão riscos jurídicos, mas vão construir um ativo raro no mercado atual: a confiança.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!