O desafio da interseção entre IA e princípios éticos no código

Num cenário empresarial cada vez mais competitivo e tecnologicamente avançado, a adoção de uma abordagem data-driven tem se tornado fundamental para o sucesso das organizações. Segundo os resultados da pesquisa “Antes da TI, a estratégia”, 61% dos executivos destacam o suporte à tomada de decisões como o principal benefício da implementação de Inteligência Artificial nas empresas. Além disso, 56% buscam a tecnologia como facilitadora na interação com os clientes.

No entanto, apesar do reconhecimento dos benefícios, a mensuração do valor real da IA para os negócios permanece como um desafio significativo. A falta de conhecimento aprofundado sobre o tema ainda impede que 76% dos entrevistados realizem investimentos nessa área com confiança.

Enquanto isso, o panorama social e político, tanto global quanto local, testemunha uma polarização crescente, muitas vezes influenciada por lideranças radicais que impõem sua visão ética sobre as atividades empresariais. Essas influências não poupam as equipes de TI, que enfrentam demandas incessantes por inovação, transformação digital (DX) e IA, em meio a uma constante evolução desses campos.

Cesar Augusto dos Santos, CIO da Claro, convidado de um dos painéis do IT Forum Trancoso 2024, ressalta que “a velocidade das coisas exponencia os desvios de conduta, que nos levam ao oposto de comportamentos éticos. Logo, o impacto acontece em escalas nunca vistas e esse é o grande desafio”.

Leia também: Desenvolvimento tecnológico e progresso social precisam de equilíbrio

O surgimento da IA Generativa nas organizações tem estimulado a criatividade independente em diversas áreas funcionais, por vezes desvinculando-as da validação técnica tradicional da TI. Para Cesar, a “experimentação é saudável”, mas ele também ressalta a importância de políticas e diretrizes claras, bem como a necessidade de um canal dedicado à ética e conformidade que reflita os valores da empresa.

Gisely Marques, CIO América Latina da Veolia Water Technologies & Solutions, destaca a importância de considerar os princípios éticos no desenvolvimento de soluções de IA, enfatizando que a interseção entre tecnologia e ética não deve negligenciar o aspecto humano. Ela adverte para o risco de desumanização e defende que, mesmo com o avanço da IA, os princípios e valores humanos devem permanecer como pilares fundamentais.

Em resumo, enquanto a IA promete revolucionar os padrões de vida e trabalho, é crucial não perder de vista os princípios éticos e humanos que moldam nossa sociedade. Num mundo cada vez mais guiado pela tecnologia, a integridade e a responsabilidade continuam sendo valores inegociáveis para o progresso sustentável das organizações e da sociedade como um todo.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!