Vídeos gerados por IA para crianças no YouTube se multiplicam, confundem a realidade e levantam alerta sobre atenção e desenvolvimento

Um panda que reencontra um cuidador, um avatar de Jesus construindo estátuas e músicas infantis com letras sem sentido são exemplos de conteúdos que aparecem na plataforma.

Em muitos casos, os personagens mudam de nome, voz e aparência sem explicação. As imagens são coloridas, rápidas e realistas, mas a narrativa pode ser confusa ou inexistente.

Um teste da BBC News Brasil identificou vídeos desse tipo após buscas por Roblox, Minecraft e animais. A reportagem também ouviu pesquisadores e especialistas sobre os possíveis efeitos desse material.

Como o conteúdo aparece para as crianças

Durante o teste, bastaram cerca de 15 minutos navegando pelos vídeos curtos do YouTube para que clipes aparentemente produzidos com inteligência artificial fossem recomendados.

Os resultados surgiram mesmo depois de buscas relacionadas a temas comuns do universo infantil. Isso indica que o sistema de recomendações pode conduzir o usuário de um conteúdo conhecido para vídeos de qualidade muito inferior.

Produzidos em escala e replicados por diferentes canais, esses materiais acumulam dezenas ou centenas de milhares de visualizações. Alguns criadores tratam o nicho infantil como uma oportunidade de negócio.

O fenômeno ainda não foi dimensionado com precisão. Um dos motivos é que muitos vídeos não exibem o aviso visual usado pelo YouTube para indicar conteúdo alterado ou sintético.

A reportagem encontrou fortes sinais de uso de inteligência artificial em vários clipes, como vozes que não correspondiam aos personagens, desenhos que mudavam entre cenas, movimentos incomuns e rostos deformados.

Pesquisadores ouvidos pela BBC News Brasil afirmam que o YouTube não identifica automaticamente todos os vídeos feitos com IA. Além disso, muitos criadores não informam o uso da tecnologia.

Uma análise do jornal The New York Times, feita manualmente e com o auxílio de uma ferramenta de detecção, encontrou um resultado expressivo. Após a exibição de um vídeo do canal infantil CoComelon, mais de 40% dos vídeos vistos em 15 minutos pareciam conter imagens geradas por IA.

Estudo encontrou milhares de vídeos infantis

O professor André Mintz, do Departamento de Comunicação Social da Universidade Federal de Minas Gerais, e a estudante Juno Bozzi analisaram a presença desse conteúdo no YouTube.

A pesquisa partiu de uma base com cerca de 17 mil vídeos, localizados por meio de buscas com palavras-chave relacionadas à inteligência artificial e ao conteúdo infantil.

Depois, os pesquisadores aplicaram filtros para separar os vídeos realmente voltados às crianças. O material tinha diferentes níveis de uso da tecnologia.

Alguns vídeos pareciam ter sido produzidos quase integralmente com inteligência artificial. Outros usavam a ferramenta apenas em elementos específicos, como cenários, personagens ou imagens de apoio.

A maior parte era formada por músicas infantis acompanhadas de imagens sintéticas. Também foram encontrados vídeos com adaptações de histórias, lições sobre o alfabeto e conteúdos religiosos.

Uma categoria chamou atenção, os vídeos de transformação. Neles, personagens conhecidos de desenhos animados são recriados por IA com aparência de crianças.

Segundo o estudo, essas produções costumam repetir imagens genéricas e estereotipadas. Para André Mintz, o material revela “um certo desprezo pelo espectador infantil, de colocar qualquer coisa e confiar que a criança vai aceitar”.

Esse tipo de produção é associado ao termo “AI slop”, expressão usada para definir vídeos de baixa qualidade, feitos em massa com softwares de inteligência artificial.

Especialistas alertam para atenção e desenvolvimento

Rachel Franz, diretora do programa Young Children Thrive Offline, da organização americana Fairplay, afirma que a preocupação é maior entre crianças pequenas.

“O cérebro das crianças atinge cerca de 90% do tamanho adulto até os 5 anos, e o que elas encontram nesse período molda seu desenvolvimento e pode impactá-las pelo resto da vida”, disse Franz.

Na avaliação da especialista, crianças pequenas ainda têm dificuldade para distinguir fantasia de realidade. Por isso, vídeos muito realistas e sem narrativa clara podem confundir a compreensão sobre o que é verdadeiro.

Franz também afirma que muitos desses conteúdos são produzidos para capturar a atenção, não para ensinar. A sucessão de imagens e sons pode sobrecarregar a quantidade de informações processadas de uma só vez.

“Quando o cérebro é sobrecarregado com informações, a criança não consegue aprender tão bem quanto ao vivenciar situações reais, no seu próprio ritmo e usando todos os sentidos”, afirmou.

Outro ponto levantado é o tempo que deixa de ser dedicado a brincar, dormir e interagir com outras pessoas. O consumo prolongado também pode afetar, segundo Franz, a atenção, a resiliência e a capacidade de regular emoções.

A fonoaudióloga e psicopedagoga Telma Pantano, do Instituto de Psiquiatria do Hospital das Clínicas da Faculdade de Medicina da Universidade de São Paulo, diz observar sinais preocupantes em atendimentos.

“Há crianças que estão vindo com muitos medos, com muita dificuldade de definir o que acontece e o que não acontece”, afirmou à BBC News Brasil.

De acordo com Pantano, a distinção entre realidade e fantasia começa a se consolidar por volta dos 7 ou 8 anos. A capacidade de tomar decisões e resolver problemas se desenvolve mais tarde.

“Até os 10 anos, é uma idade de muito risco, porque a criança ainda não sabe separar a realidade da fantasia e não tem capacidade de tomada de decisão, organização e planejamento para resolver problemas”, disse.

A especialista também alerta para o contato constante com imagens prontas. Quando a criança recebe cenas acabadas, pode ter menos espaço para criar imagens mentais, imaginar possibilidades e construir suas próprias interpretações.

“O que estamos fazendo com essa construção de vídeos? Estamos permitindo que crianças e adolescentes entrem em contato com a imagem sem antes fazer essa construção mental. As imagens vêm prontas, e a criatividade fica bastante restrita”, afirmou.

Algoritmo e modelo de negócio ampliam o problema

André Mintz avalia que a expansão desse conteúdo está ligada a um modelo econômico que recompensa volume, velocidade e retenção de audiência.

Com ferramentas de IA, um canal pode criar músicas, imagens, vozes e histórias em menos tempo e com custo reduzido. A repetição de fórmulas facilita a publicação de dezenas de vídeos.

Alguns criadores chegam a recomendar o conteúdo infantil como uma forma de ganhar dinheiro. Os canais podem ser monetizados quando atendem às regras da plataforma e geram receita com publicidade.

Para Mintz, o problema se agrava porque muitas famílias têm dificuldade para acompanhar tudo o que as crianças assistem. Em alguns casos, a tela é usada para entretê-las enquanto os responsáveis trabalham ou cuidam da casa.

Rachel Franz afirma que as próprias plataformas são projetadas para prolongar o tempo de uso. Reprodução automática e recomendações algorítmicas conduzem o espectador de um vídeo para outro.

“Quando acrescentamos AI slop, que hipnotiza ainda mais as crianças, essa se torna uma batalha perdida. Isso não apenas impacta o desenvolvimento infantil, como torna impossível exercer o papel de pai ou mãe quando a própria tela luta contra você”, disse.

Telma Pantano ressalta que crianças não têm condições de identificar sozinhas um vídeo de baixa qualidade. Cores fortes, mudanças rápidas e movimentos constantes podem chamar a atenção mesmo quando não existe informação confiável.

“Mesmo conteúdos sem significado, sem base científica ou sem conhecimento vão atrair a criança da mesma forma. E, quanto menor a criança, mais atrativo aquilo fica”, afirmou.

O que diz o YouTube sobre vídeos feitos com IA

O YouTube afirma que permite conteúdos produzidos com inteligência artificial, mas aplica padrões mais rígidos a vídeos destinados ao público infantil.

“Combater o conteúdo de baixa qualidade gerado por IA é uma prioridade máxima para nós”, informou a plataforma em nota à BBC News Brasil.

A empresa disse que trabalha para remover conteúdos marcados como “feito para crianças” quando eles não atendem aos princípios de qualidade. Também afirmou que canais que usam IA podem continuar monetizados.

Para isso, o produto final deve ser original, acrescentar uma perspectiva autêntica, seguir as diretrizes de comunidade e monetização e informar adequadamente quando o conteúdo for alterado ou sintético.

Em entrevista ao canal Creator Inside, o vice-presidente de confiança e segurança do YouTube, Matt Halprin, afirmou que são considerados problemáticos vídeos genéricos ou repetitivos.

Também entram nessa categoria materiais que tentam manipular emoções ou criam personagens artificiais para abordar temas sensíveis, como finanças, questões legais e saúde.

João Victor Archegas, coordenador de direito e tecnologia do Instituto de Tecnologia e Sociedade do Rio, considera positivo que a plataforma estabeleça parâmetros para conteúdos não autênticos.

Segundo ele, regras claras podem orientar criadores, moderadores, anunciantes e parceiros comerciais. A sinalização também ajuda o público a entender quando um vídeo passou por alterações relevantes.

Archegas, porém, vê uma contradição na estratégia da empresa. Ao mesmo tempo que incentiva o uso de ferramentas de IA, o YouTube tenta conter o conteúdo de baixa qualidade produzido em escala por essas mesmas tecnologias.

“A plataforma segue tendo o desafio imenso de identificar conteúdos gerados por IA e atuar quando eles são identificados”, afirmou.

O especialista acrescentou que as novas categorias ajudam a indicar prioridades, mas ainda não deixam claros os parâmetros técnicos usados para detectar e moderar esse tipo de material.

Enquanto a plataforma aperfeiçoa seus sistemas, especialistas defendem maior acompanhamento dos responsáveis, redução da reprodução automática e preferência por conteúdos com narrativa coerente, participação humana e finalidade educativa clara.