Fuja das armadilhas da inteligência artificial
Tecnologia não para de avançar, trazendo resultados cada vez mais impressionantes, entretanto isso não significa que seja perfeita
Se alguém ainda tinha dúvida de como a IA (inteligência artificial) está disseminada em nossas vidas, dois sistemas movidos por essa tecnologia possivelmente acabaram com ela ao inundar as redes sociais nos últimos dias com conteúdo que produzem. O primeiro foi o Lensa e seus retratos estilizados de nossos amigos, e o outro foi o ChatGPT com textos incríveis que escreve a partir de simples comandos. De quebra, ambos escancararam como podemos pautar escolhas pessoais pelas sugestões da IA, às vezes sem ter plena noção disso. E essa nossa inocência esconde um grave problema, pois, apesar de os resultados dessa tecnologia parecerem incríveis, podem embutir falhas graves, que nós engoliremos alegremente.
Sou um entusiasta do que a inteligência artificial pode nos brindar nos diferentes campos do saber. Se bem utilizada, ela pode trazer ganhos que nos levarão a um nível de produtividade inédito. Mas precisamos dosar a euforia e entender que não existe almoço grátis.
Tudo porque a inteligência artificial não é inteligente de fato! Sim, esses sistemas efetivamente aprendem à medida que são usados e com seus próprios erros. Mas a qualidade de suas entregas depende do material usado para sua “educação” e até da índole de seus usuários. Assim como acontece com uma criança, se ela for mal instruída, repetirá tudo de ruim que tiver aprendido.
A diferença é que, ao contrário da criança com seu alcance limitado, plataformas com inteligência artificial mal instruídas podem influenciar negativamente milhões de pessoas com isso.
Veja esse artigo em vídeo:
Em setembro, a IBM divulgou um estudo global que indicou que 41% das empresas brasileiras já adotam IA. Ironicamente, muitas não sabem disso, porque ela está por trás de aplicações que se tornaram corriqueiras. E, da mesma forma que a inteligência artificial se presta a criar inocentes retratos a partir de outras fotos, pode ser o motor de sistemas empresariais para se tomar decisões de milhões de reais.
Há um outro aspecto que não pode ser ignorado: a IA também está no coração de incontáveis aplicativos em nossos smartphones e nas redes sociais. E, como já debatemos nesse espaço incontáveis vezes, essas plataformas têm um incrível poder de nos influenciar.
Em outras palavras, uma IA “mal orientada” pode não apenas nos fazer perder muito dinheiro, como ainda provocar diferentes danos no âmbito pessoal.
- Assine gratuitamente minha newsletter sobre experiência do cliente, mídia cultura e transformação digital
- Inscreva-se no meu podcast (escolha a plataforma): Spotify, Deezer, Apple Podcasts, Google Podcasts ou Soundcloud
Não entendam isso como uma visão apocalíptica da tecnologia. Pelo contrário, a inteligência artificial quase nos dá “superpoderes”, ou pelo menos habilidades que nós eventualmente não tenhamos, como tirar uma foto incrível, escrever um texto brilhante ou evitar grandes riscos nos negócios. Entretanto, precisamos estar atentos para não achar que ela é infalível.
Há ainda um aspecto profissional a ser considerado. Com sistemas tão sofisticados cuspindo sensacionais fotos, textos ou contratos (só para ficar em alguns poucos exemplos), fotógrafos, escritores e advogados estão com seus empregos sob risco?
Por enquanto, isso não acontecerá por dois motivos. Em ambientes corporativos, essas plataformas acabam sendo usadas principalmente para mastigar grande quantidade de informações específicas para produzir um resultado de qualidade. Mas ainda é necessário um profissional que entenda do assunto para dar os comandos aos sistemas e confirmar suas entregas, fazendo eventuais correções de rumo. São necessárias ainda pessoas que produzam os conteúdos “originais” que os alimentarão.
Na verdade, uma nova profissão pode surgir disso: os “prompt designers”, capazes de extrair o melhor dessas plataformas. E eles também precisam de conhecimento na área do saber que o sistema trabalho. Fazendo uma analogia, é como comparar alguém que sempre consegue boas respostas do Google porque sabe fazer boas perguntas com a maioria dos usuários, que só recebem as páginas mais óbvias.
Máquinas preconceituosas
Há ainda um ponto de atenção central nessa tecnologia: os vieses que ela pode desenvolver. Sim, uma máquina pode verdadeiramente se tornar preconceituosa! Tanto que esse foi um dos temas centrais do World Summit AI Americas, um dos maiores eventos do setor no mundo, do qual participei em maio, em Montréal (Canadá).
Como disse anteriormente, para sistemas de IA oferecerem boas respostas, eles precisam ser ensinados com bons conteúdos e por bons usuários. Quanto pior qualquer um deles for, piores serão os resultados. E isso vale também para preconceitos.
Um exemplo clássico são sistemas de recrutamento profissional com inteligência artificial. Eles analisam milhares de currículos e escolhem poucos candidatos que seriam os mais adequados para que o RH os entreviste. Se, a cada contratação, o sistema identifica que os recrutadores humanos nunca escolhem alguém com mais de 40 anos, ele passará a indicar apenas candidatos até essa idade. Ou seja, o sistema terá incorporado o preconceito dos recrutadores contra profissionais mais velhos.
Outro tipo de viés desses sistemas pode ter efeitos nefastos na autoimagem das pessoas. Filtros do Instagram e do TikTok, e o próprio Lensa já foram acusados de gerar imagens com a pele mais clara e lisa do que as pessoas realmente têm, com rostos mais simétricos e magros, com narizes mais finos e lábios mais carnudos e até com aparência mais jovem. Dessa forma, reforçam ideais de beleza, às vezes inatingíveis.
Muitas pessoas, especialmente mulheres, têm pedido a cirurgiões plásticos para ficarem como vistas nesses aplicativos, mas isso não é possível, podendo causar enorme frustração com o próprio corpo. E isso dispara sinais de alerta e abre muitas reflexões.
Pode parecer irônico que uma tecnologia nos faça avaliar muito de nossa própria humanidade. Afinal, por que tanta gente criou suas imagens com o Lensa? Foi só um “efeito manada”? É um movimento egocêntrico ou narcisista? Foram mais uma vez controladas pelas redes sociais? Ou estão, de alguma forma, querendo “reescrever” sua própria realidade?
Qualquer que seja a resposta, a inteligência artificial ocupará um espaço cada vez maior em tudo que fizermos, conscientemente ou não. Ela realmente tem o potencial de fazer nossas vidas mais fáceis, divertidas, rápidas. Apenas não podemos usá-la para distorcer a realidade ou –pior ainda– sermos vítimas desses vieses e preconceitos. Precisamos conhecer e nos apropriar da tecnologia para algo bom, sem nos afastar do que somos!
Afinal, por mais que a realidade possa ser dura às vezes, é nela que temos nossas melhores experiências, que desencadeiam as verdadeiras transformações em nós mesmos. E é a partir delas que crescemos como indivíduos.
