O CEO do Google, Sundar Pichai, recentemente enfrentou uma série de controvérsias relacionadas à ferramenta de inteligência artificial (IA) da empresa, conhecida como Gemini. Em um comunicado divulgado na última terça-feira (27), Pichai descreveu as respostas problemáticas do aplicativo em questões de raça como “completamente inaceitáveis” e prometeu implementar mudanças estruturais para resolver o problema.
A controvérsia em torno do Gemini surgiu após a suspensão da ferramenta de criação de imagens da empresa, na semana passada, devido a resultados constrangedores e ofensivos. Em alguns casos, o aplicativo se recusou a retratar pessoas brancas ou inseriu imagens de mulheres ou pessoas racializadas em contextos inadequados, como na representação de nazistas ou do Papa.
Leia mais: Softwares com IA fake: como profissionais de TI podem desmascarar impostores?
Em uma declaração à imprensa, Pichai afirmou que “algumas das respostas do Gemini têm ofendido nossos usuários e mostraram viés”, destacando que tais ações são inaceitáveis. Ele também mencionou que a equipe do Google tem trabalhado incansavelmente para abordar essas questões e já observou melhorias significativas em várias áreas.
“Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que o padrão é alto para nós e continuaremos nesse caminho, não importa quanto tempo leve. E vamos revisar o que aconteceu e garantir que consertemos em escala”, disse Pichai em nota. “Estaremos conduzindo um conjunto claro de ações, incluindo mudanças estruturais, diretrizes de produto atualizadas, processos de lançamento aprimorados, avaliações robustas e testes finais, e recomendações técnicas”.
A controvérsia em torno do Gemini destaca os desafios enfrentados pelas empresas na utilização da IA, especialmente no que diz respeito à mitigação de viés e à garantia de respostas precisas e imparciais. No entanto, para além do problema de viés, isso mostra que o Google enfrenta falhas técnicas no refinamento dos modelos de IA, um desafio comum enfrentado por todas as empresas que desenvolvem produtos de IA para consumidores, não apenas o Google.
*Com informações do Semafor
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A Sony Music Group enviou uma carta a mais de 700 empresas de tecnologia e…
O Ransomware-as-a-Service é um modelo de negócio considerado lucrativo, semelhante ao Software-as-a-Service (SaaS), e que…
Há cerca de dois anos, o termo “Inteligência Artificial” se integrou definitivamente ao nosso cotidiano,…
A Raízen, gigante produtora de açúcar e de etanol, queria melhorar seus processos de contratações…
A IA generativa é a solução mais adotada entre as empresas que apostam em algum tipo…
Um estudo feito por um grupo de psiquiatras liderados por Carmita Abdo, psiquiatra e professora…