Como ensinar vieses algorítmicos na escola: atividade prática com dados e perguntas

Ensinar vieses algorítmicos na escola não exige transformar a turma em uma aula de programação. O objetivo é ajudar os alunos a perceber que sistemas digitais não “enxergam a realidade” de maneira neutra: eles operam com dados, categorias, regras e decisões humanas. Uma atividade bem planejada pode mostrar como uma escolha aparentemente técnica favorece certos resultados, deixa outros de fora e precisa ser questionada antes de orientar uma decisão.

O caminho mais seguro é trabalhar com um problema fictício, sem coletar fotos, nomes, notas, localização ou histórico real dos estudantes. A turma pode simular um sistema de recomendação de livros, notícias ou vídeos usando cartões inventados. A partir desse material, o professor conduz perguntas sobre quem aparece nos dados, qual critério foi escolhido, quem é prejudicado pelo erro e como revisar a regra. A proposta não é declarar que toda diferença é preconceito, mas ensinar a investigar evidências.

O que são vieses algorítmicos

Um algoritmo é um conjunto de instruções para realizar uma tarefa. Em sistemas de inteligência artificial, essas instruções podem trabalhar com grandes volumes de dados para classificar, prever, recomendar ou gerar conteúdo. Viés algorítmico é uma tendência sistemática que produz resultados desiguais, distorcidos ou injustos para determinados grupos ou situações. Ela pode aparecer na seleção dos dados, na definição do objetivo, na forma de medir o resultado, no uso do sistema ou na decisão de uma pessoa que confia nele.

Isso não significa que toda diferença entre grupos seja, sozinha, prova de discriminação. Uma turma precisa perguntar: os grupos foram comparados em condições semelhantes? Há dados suficientes? A categoria usada faz sentido? O sistema erra mais para algum grupo? Quem definiu o que conta como “sucesso”? Essas perguntas transformam uma reação genérica — “a tecnologia é preconceituosa” — em uma investigação mais cuidadosa.

O material do Google for Developers sobre tipos de viés explica que modelos não são automaticamente objetivos. A participação humana na escolha, produção e organização dos dados pode introduzir problemas. A própria lista de vieses não é completa: ela serve como ponto de partida para observar seleção, representação, atribuição de grupos e outros efeitos.

Por que esse tema cabe na Educação Básica

O documento orientador Inteligência Artificial na Educação Básica, publicado pelo Ministério da Educação em 2026, separa duas dimensões que precisam dialogar: aprender sobre IA e aprender com IA. Na primeira, a inteligência artificial vira objeto de conhecimento; na segunda, pode ser usada como recurso pedagógico, com decisão sobre se, quando e como utilizá-la. Entre as aprendizagens indicadas pelo documento estão dados, algoritmos, modelos, privacidade, bolhas de informação, desinformação e o reconhecimento de vieses humanos e da IA.

A UNESCO também apresenta transparência, justiça, não discriminação e supervisão humana como referências para a ética da IA. Isso não transforma uma escola em laboratório de auditoria profissional, mas oferece uma direção pedagógica: os alunos devem aprender a perguntar como um sistema funciona, quais são seus limites e quem precisa continuar responsável pela decisão.

O tema dialoga com o artigo do PRAL sobre algoritmos e recomendações digitais, mas o foco aqui é outro. Em vez de apenas discutir por que uma plataforma recomenda determinado conteúdo, a atividade propõe que a turma construa uma regra, observe seus efeitos e faça uma revisão fundamentada.

Atividade prática: construindo e auditando uma recomendação

Público: anos finais do Ensino Fundamental ou Ensino Médio, com adaptação para outras idades. Duração: uma aula de 50 a 100 minutos. Materiais: cartões fictícios, quadro, papel ou planilha simples. Não use contas pessoais, imagens de alunos, histórico de navegação, notas reais ou qualquer dado que identifique alguém.

1. Apresente o problema

Diga à turma que uma biblioteca quer recomendar cinco títulos para uma feira de leitura. O sistema recebe cartões com informações inventadas: tema, formato, idioma, quantidade de cliques em uma página fictícia, faixa etária indicada e origem da publicação. Inclua títulos de aventura, poesia, divulgação científica, literatura indígena, literatura africana, quadrinhos e produção local. A variedade é importante para que a turma observe o que acontece quando um critério de popularidade domina a escolha.

2. Peça uma regra antes de falar em viés

Em pequenos grupos, os alunos devem escrever uma regra simples para escolher cinco cartões. Alguns podem priorizar o maior número de cliques; outros podem escolher um tema diferente a cada vez; outros ainda podem exigir que apareça mais de um formato. Cada grupo registra a regra antes de selecionar os títulos. Essa etapa mostra que o resultado não depende apenas dos dados: depende também do objetivo definido por quem desenhou o procedimento.

3. Compare os resultados

Reúna as escolhas no quadro e pergunte: quais temas foram repetidos? Quais desapareceram? O número de cliques representa interesse de toda a comunidade ou apenas de quem teve acesso ao primeiro link? Um título menos clicado é necessariamente menos relevante? O grupo que recebeu a recomendação consegue explicar por que certos cartões ficaram de fora? Evite tratar a presença de um título como prova de justiça. A análise deve olhar para o conjunto da regra e para as consequências.

4. Faça uma segunda versão

Agora cada grupo revisa a regra. Pode estabelecer uma cota de diversidade temática, separar popularidade de qualidade, exigir uma fonte de publicação ou alternar recomendações muito conhecidas com títulos que receberam pouca exposição. O professor deve pedir que os alunos expliquem o que a nova regra melhora e que novo problema ela pode criar. Toda correção envolve escolhas e limites; não existe uma fórmula que elimine a necessidade de julgamento.

Como transformar a simulação em investigação

Depois da atividade, peça um registro individual com quatro partes: a regra do grupo, o resultado observado, uma hipótese sobre a causa e uma mudança possível. O aluno deve separar fato de interpretação. “Nenhum livro de poesia foi selecionado” é uma observação; “o grupo não gosta de poesia” é uma hipótese que exigiria evidência. Essa distinção aproxima a aula do pensamento científico e evita transformar experiências simuladas em conclusões sobre pessoas reais.

Em Matemática, a turma pode calcular a proporção de cartões selecionados por tema, comparar distribuições e discutir como a escolha da métrica altera a leitura. Em Língua Portuguesa, pode analisar como a descrição de um título influencia sua classificação. Em História e Sociologia, pode investigar quem teve poder de definir categorias e quais grupos costumam ficar invisíveis em uma base de dados. Em Computação, pode representar a regra como um fluxograma e testar casos diferentes.

O caso Gender Shades, pesquisa de Joy Buolamwini e Timnit Gebru publicada nos Proceedings of Machine Learning Research, pode entrar como estudo posterior, sem reproduzir a atividade com rostos de estudantes. O trabalho avaliou três sistemas comerciais de classificação de gênero e encontrou diferenças expressivas de desempenho entre grupos definidos por gênero e tom de pele. O resultado é um exemplo de auditoria específica, realizada com um conjunto de dados próprio; não autoriza afirmar que todos os sistemas atuais têm o mesmo comportamento.

Perguntas que ajudam a turma a auditar um sistema

• Qual é a finalidade? O sistema recomenda, classifica, prevê ou decide?
• Quem definiu o objetivo? A regra foi criada por pessoas, por uma instituição ou por uma combinação de procedimentos?
• Quais dados entram? O que foi medido, o que ficou de fora e de onde veio a informação?
• Como os grupos são representados? Há categorias ausentes, simplificadas ou difíceis de comparar?
• Qual erro importa? O sistema pode deixar alguém de fora, recomendar algo inadequado ou atribuir uma classificação errada?
• Quem revisa a decisão? Existe possibilidade de contestação e correção humana?

O professor pode transformar essas perguntas em uma rubrica de análise, com critérios como identificação de dados, explicação da regra, uso de evidências, reconhecimento de limitações e proposta de revisão. A avaliação deve observar o raciocínio, não a opinião que parece mais crítica. Um aluno pode discordar da regra e ainda assim precisar demonstrar por que ela produz determinado efeito.

Cuidados com privacidade e com a própria aula

Não use a turma como banco de testes. Evite pedir que os alunos forneçam fotos, nomes completos, endereço, histórico de busca, notas ou características físicas para “treinar” um sistema. Além de desviar o objetivo, isso cria riscos desnecessários. Cartões fictícios, dados públicos já agregados ou situações inventadas são suficientes para discutir a lógica do problema.

Também não apresente uma ferramenta como se ela tivesse acesso a uma verdade objetiva. Sistemas podem errar, mudar de comportamento, esconder critérios e operar com dados que a escola não consegue verificar. O AI Risk Management Framework do NIST é voltado à gestão de riscos de IA e reforça a importância de considerar confiabilidade no desenho, desenvolvimento, uso e avaliação de sistemas; na sala de aula, isso pode virar uma rotina simples de perguntar, testar, observar e revisar.

Erros comuns ao ensinar o tema

• Reduzir viés a uma falha técnica: escolhas históricas, institucionais e sociais também entram no problema.
• Usar um exemplo chocante sem contexto: o caso precisa ser delimitado, com fonte, método e limites.
• Fazer a turma apontar grupos reais: prefira dados fictícios e não transforme estudantes em objeto de classificação.
• Confundir diversidade com uma lista de categorias: representação exige perguntar quem participa, quem decide e quem é afetado.
• Encerrar na denúncia: a aprendizagem melhora quando os alunos propõem uma regra revisada e explicam seus trade-offs.

Perguntas frequentes

Vieses algorítmicos são sempre causados pela inteligência artificial?

Não. O problema pode surgir antes do modelo, na seleção e rotulagem dos dados, na definição do objetivo, na métrica escolhida, na interface ou na decisão de quem usa a saída. A IA pode reproduzir ou ampliar padrões já presentes em práticas humanas.

É preciso ensinar programação para abordar o assunto?

Não. A atividade com cartões e regras já permite discutir dados, critérios, representação e consequências. A programação pode ser acrescentada quando ajudar a tornar a regra visível, mas não é pré-requisito para o pensamento crítico.

Como saber se uma atividade realmente ensinou algo?

Peça uma evidência: o aluno deve descrever a regra, apontar um efeito observado, diferenciar hipótese de fato e justificar uma revisão. Se apenas repetir que “algoritmos têm preconceito”, a compreensão ainda está superficial.

Fontes consultadas

• Ministério da Educação, Inteligência Artificial na Educação Básica: documento orientador sobre caminhos curriculares e práticas éticas de uso de IA nas escolas (2026).
• UNESCO, Recommendation on the Ethics of Artificial Intelligence.
• Buolamwini e Gebru (2018), Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.
• Google for Developers, Fairness: Types of bias.
• NIST, AI Risk Management Framework.