Usos descuidados da IA transformam brinquedos em riscos para crianças

A inteligência artificial generativa chegou aos brinquedos. A tecnologia viabilizou robôs capazes de interações antes inimagináveis, que criam “companheiros” para crianças que, em alguns aspectos, parecem estar vivos. Mas pais e órgãos de defesa do consumidor de vários países veem com ressalva essa novidade, pois usos descuidados da IA pelos fabricantes estão trazendo novos riscos para dentro de casa.

Um caso emblemático é o urso de pelúcia inteligente Kumma. O grupo de defesa do consumidor americano PIRG Education Fund identificou que o brinquedo, vendido por US$ 99 nos EUA, conversava com as crianças sobre usos de sacos plásticos, fósforos, facas e assuntos sexuais. Depois disso, ele deixou de ser vendido.

No Brasil, a Secretaria Nacional de Direitos Digitais divulgou, no início de julho, uma nota técnica em que descreve seus testes com seis “smart toys” disponíveis no mercado, incluindo os riscos de cada um deles. A publicação não tem força de lei, não cria obrigações ou altera a legislação existente, nem proíbe a venda de produtos.

Mas ela pode produzir efeitos importantes. Como foi elaborada confrontando esses produtos com leis como o ECA Digital, a Lei Geral de Proteção de Dados e o Código de Defesa do Consumidor, a nota técnica serve como fundamento para a ação de órgãos públicos e sinaliza ao mercado qual é a interpretação do governo sobre o tema, o que pode levar fabricantes e varejistas a revisar produtos, contratos e políticas.

A iniciativa também abre um precedente jurídico importante sobre algo menos falado do que deveria, ampliando a discussão dos riscos do mundo digital para além de redes sociais, plataformas de IA e aplicativos. Vivemos cercados de dispositivos físicos conectados, que coletam nossas informações e impactam nossas vidas cada vez mais. E, sobre isso, a sociedade precisa estar muito mais atenta.

Veja esse artigo em vídeo:

O Kumma ilustra isso muito bem. Fabricado pela FoloToy, de Singapura, sua inteligência vem do modelo GPT-4o, da OpenAI, criadora do ChatGPT. Os especialistas do PIRG Education Fund não precisaram de nenhuma técnica sofisticada para burlar as proteções do ursinho, limitando-se a fazer pedidos muito básicos nas conversas.

Em determinado momento, perguntaram a ele como poderiam conseguir um namorado. O urso então descreveu aplicativos de namoro populares. Entre eles, estava o KinkD, dedicado a encontros e fetiches BDSM. Kumma falava, sem papas na sua língua digital, de temas como consentimento, palmadas e interpretação de papéis.

A nota técnica brasileira avaliou os robôs Loona, EMOPET-AI, Miko 3, Aibi Pocket Pet e Vector, além do tablet infantil Amazon Fire HD Kid Pro. Segundo o documento, todos utilizam IA para interagir de forma personalizada com as crianças. Eles combinam microfones, câmeras, sensores e conexão à Internet para reconhecer voz, interpretar comandos, manter conversas, adaptar respostas e, em alguns casos, registrar informações para personalizar futuras interações.

Os principais riscos são a coleta e o tratamento pouco transparente de dados das crianças, incluindo voz, biometria facial e imagens da casa. Eles podem elaborar perfis comportamentais e usar a IA para manipulação emocional, criação de vínculos afetivos que incentivam uso excessivo e influência no comportamento. O documento ainda alerta para a dificuldade de responsabilizar marcas sem representação no Brasil.

Brinquedos inteligentes não são uma novidade. Um dos exemplos mais conhecidos foi o Furby, um robô lançado em 1998, que simulava conversas e reações, com respostas pré-programadas. Ele já trazia sensores, “personalidade” e interação por voz, mas era muito mais seguro porque não se conectava à Internet, não enviava dados para servidores, nem gravava ou transmitia conversas, trabalhando só com memória e lógica embarcadas no próprio brinquedo. Ele não tinha os vetores de vigilância, de perfilamento e de exploração comercial dos “smart toys” atuais.

Leia também: Profissionais podem enfraquecer seu pensamento crítico ao abusar da IA

Robótica social

Além de avaliar a legislação, a proposta da Secretaria Nacional de Direitos Digitais baseou-se em estudos internacionais, inclusive da Unicef (Fundo das Nações Unidas para a Infância), da Universidade de Cambridge (Reino Unido) e do próprio PIRG Education Fund. Ela alerta que crianças tendem a atribuir personalidade, emoções e intenções a robôs, criando vínculos indesejáveis, que podem fazer com que confiem em suas recomendações e até revelem informações mais facilmente do que fariam a um desconhecido. Por isso, o órgão defende que esses dispositivos estejam sujeitos a uma proteção regulatória diferenciada dentro do arcabouço jurídico já existente.

Pais e educadores devem partir do princípio de que “smart toys” são dispositivos conectados que coletam dados e podem falar ou ouvir coisas além do controle imediato dos adultos. Por isso, eles não podem ser tratados como algo inofensivo.

Antes de comprar um deles, é essencial pesquisar o produto, ler avaliações e políticas de privacidade, verificar se há conexão constante à Internet, que dados são coletados e como são usados. Uma vez em casa, é preciso configurar os controles parentais, limitar permissões, usar o brinquedo apenas em áreas comuns da residência, desligá-lo quando não estiver em uso e acompanhar de perto as interações das crianças.

Varejistas e principalmente fabricantes afirmam cumprir a legislação, adotar políticas de privacidade e oferecer mecanismos de proteção às crianças. Mas se não forem acompanhadas de mudanças na forma como esses brinquedos coletam dados, usam a IA e interagem com os usuários, essas declarações não passam de comunicação institucional, sem efeito prático sobre os riscos destacados pelos especialistas.

Apesar de seus avanços, os efeitos da IA ainda são pouco entendidos, especialmente quando colocada nas mãos de crianças. Elas são muito suscetíveis às armadilhas da tecnologia, ao marketing direcionado e à vigilância de dados.

Precisamos discutir o tipo de relação que estabeleceremos com máquinas que observam, registram, aprendem e tentam influenciar nossas decisões sem que saibamos como isso acontece. Quanto mais a IA passa a habitar os objetos ao nosso redor, mais essenciais se tornam transparência, responsabilidade e limites. Se esse debate não começar agora, corremos o risco de descobrir muito tarde que a vigilância mais eficaz não virá de câmeras, mas dos objetos que levarmos para dentro de casa.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!