CurriculumCurrículoAIGrades 6 to 8Grados 6 a 8AI-JH-03
Data and BiasDatos y sesgo
Train two card sorters, one on a fair deck and one on a lopsided deck, and measure how differently they behave. Bias becomes something you can count and fix with data.Entrene dos clasificadores de tarjetas, uno con un mazo equilibrado y otro con un mazo desequilibrado, y mida qué tan distinto se comportan. El sesgo se vuelve algo que se puede contar y corregir con datos.
- Ways in:Formas de empezar:
- Read, 1 minuteLeer, 1 minuto
- Do, 270 minutesHacer, 270 minutos
- Simulate, 10 minutesSimular, 10 minutos
- GradesGrados
- Grades 6 to 8, and any learner ready for itGrados 6 a 8, y cualquier persona lista para ello
- TimeTiempo
- 6 sessions of about 45 minutes6 sesiones de unos 45 minutos
- CostCosto
- Things already at homeCosas que ya hay en casa
The MESH'D components this unit uses:Los componentes MESH'D que usa esta unidad:SoftwareSoftwareHolistic DesignDiseño integral
The driving questionLa pregunta central
What did it eat? What was the model trained on, and how does that shape what it does?¿Qué comió? ¿Con qué se entrenó el modelo y cómo influye eso en lo que hace?
Two sorters, one fed a fair deck and one a lopsided deck, behave measurably differently. Bias moves from accusation to measurement, and the fix is data, not scolding.Dos clasificadores, uno alimentado con un mazo equilibrado y otro con un mazo desequilibrado, se comportan de forma distinta y medible. El sesgo pasa de ser una acusación a ser una medición, y la solución son los datos, no los regaños.
Learners will be able toAl terminar se podrá
- Predict how a model will behave from what its training set contains.Predecir cómo se comportará un modelo a partir de lo que contiene su conjunto de entrenamiento.
- Measure skew as the percent error for each category.Medir el desequilibrio como el porcentaje de error de cada categoría.
- Propose a fix that uses data, and test it.Proponer una solución que use datos y ponerla a prueba.
Words to knowPalabras para conocer
- datasetconjunto de datos
- representativerepresentativo
- samplemuestra
- skewdesequilibrio
- biassesgo
Where the math isDónde están las matemáticas
Percents and comparison bar charts: work out the percent error for each category, then chart the fair sorter against the lopsided one, before and after the fix.Porcentajes y gráficas de barras comparativas: calcule el porcentaje de error de cada categoría y grafique el clasificador equilibrado frente al desequilibrado, antes y después de la corrección.
Big ideas in AIGrandes ideas de la IA
- Learning: They can learn from data.Aprendizaje: Pueden aprender de los datos.
- Societal impact: AI can help and harm people, and people decide how it is used.Impacto en la sociedad: La IA puede ayudar y hacer daño a las personas, y las personas deciden cómo se usa.
Session by sessionSesión por sesión
What to doQué hacer
- The deck experiment: train one sorter on a fair deck and one on a lopsided deck, and start tallying errors.El experimento de los mazos: entrene un clasificador con un mazo equilibrado y otro con un mazo desequilibrado, y empiece a contar los errores.
- Where data comes from: who collected it, and who is missing from it, discussed by pairing each claim with evidence.De dónde vienen los datos: quién los reunió y quién falta en ellos, conversado presentando cada afirmación junto con su evidencia.
- Quantify: work out the percent error for each category, and make bar charts that make the skew undeniable.Cuantifique: calcule el porcentaje de error de cada categoría y haga gráficas de barras que vuelvan innegable el desequilibrio.
- Fix it with data: rebalance, retrain and remeasure. The before and after chart is the unit's thesis.Corríjalo con datos: equilibre, vuelva a entrenar y vuelva a medir. La gráfica de antes y después es la tesis de la unidad.
- Build a findings poster.Prepare un cartel con los hallazgos.
- Present the poster, then get ready to show it.Presente el cartel y prepárese para mostrarlo.
What you needLo que necesita
- two decks of cards to sort, one fair and one lopsideddos mazos de tarjetas para clasificar, uno equilibrado y otro desequilibrado
- chart paper and markerspapel rotafolio y marcadores
EquipmentEquipo
- a trainable classifier tool, optional, used with an adult supervisinguna herramienta de clasificador entrenable, opcional, usada con la supervisión de un adulto
- a computer or tablet, optionaluna computadora o tableta, opcional
Things already at home.Cosas que ya hay en casa.
With no device at allSin ningún aparato
No device needed: the card version is the complete unit.No se necesita ningún dispositivo: la versión con tarjetas es la unidad completa.
If you repeat the experiment on a device: an adult supervises every use of an AI tool, and it is never used for personal or emotional questions. Follow each tool's own age terms.Si repite el experimento en un dispositivo: un adulto supervisa cada uso de una herramienta de IA, y nunca se usa para preguntas personales o emocionales. Siga los términos de edad de cada herramienta.
What learners make and showLo que se hace y se muestra
A bias experiment poster with error rates before and after the fix: real numbers anyone can reproduce, the cause traced to what was in the data, and the fix shown, not just claimed.Un cartel del experimento de sesgo con los porcentajes de error antes y después de la corrección: números reales que cualquiera puede reproducir, la causa rastreada hasta lo que había en los datos y la corrección demostrada, no solo afirmada.
Mix-ups to expectConfusiones que esperar
- Bias means someone was mean. It comes from what is in the data, not from cruelty.Sesgo significa que alguien fue malo. Viene de lo que hay en los datos, no de la crueldad.
- The computer is neutral. It is exactly as neutral as its data.La computadora es neutral. Es exactamente tan neutral como sus datos.
- Delete the bad rows and it is fixed. Rebalancing works better than deleting; test it and see.Si se borran las filas malas, queda arreglado. Equilibrar funciona mejor que borrar; póngalo a prueba y compruébelo.
At homeEn casa
Try it at the kitchen tablePruébelo en la mesa de la cocina
Run the lopsided-deck experiment at the dinner table: teach one person with a fair deck and another with a lopsided deck, then test both on the same new cards.Haga el experimento del mazo desequilibrado durante la cena: enséñele a una persona con un mazo equilibrado y a otra con un mazo desequilibrado, y luego ponga a prueba a las dos con las mismas tarjetas nuevas.
Explore, 10 minutesExplorar, 10 minutos
How a machine learns to sortCómo aprende a ordenar una máquina
Train a simple machine to sort made-up cats and dogs from examples, watch its line move with each mistake, and test it fairly on animals it has never seen.Entrene una máquina sencilla para ordenar gatos y perros inventados a partir de ejemplos, vea moverse su línea con cada error y pruébela de forma justa con animales que nunca ha visto.
The drawing shows where it starts. It runs here once its script has loaded.El dibujo muestra dónde empieza. Funciona aquí una vez que carga su código.
Your challengeSu reto
- With the fair deck, train the machine until a whole round has no mistakes.Con el mazo parejo, entrene la máquina hasta que una ronda completa no tenga errores. Not done yet.Todavía no.
- Train it on the lopsided deck and catch it calling a test dog a cat.Entrénela con el mazo disparejo y descúbrala llamando gato a un perro de prueba. Not done yet.Todavía no.
- Fix the lopsided deck with cards of your own, and train until it gets eleven of the twelve test animals right.Arregle el mazo disparejo con tarjetas suyas y entrene hasta que acierte once de los doce animales de prueba. Not done yet.Todavía no.
Every challenge done. Now try it for real at home.Todos los retos logrados. Ahora pruébelo de verdad en casa.
Test cats it calls cats, animals it never trained onGatos de prueba que llama gatos, animales con los que nunca practicó
Test dogs it calls dogsPerros de prueba que llama perros
Percent wrong on each kind:Porcentaje de errores con cada clase:
Its own practice cards it sorts rightSus propias tarjetas de práctica que ordena bien
Training so far:Entrenamiento hasta ahora:
Its weights, the numbers it learned:Sus pesos, los números que aprendió: earsorejas nosenariz pushempuje
The new card:La tarjeta nueva:
Every animal here is made up. A head with pointed ears is a cat, one with hanging ears a dog. Filled heads are the practice cards it learns from; hollow heads are the twelve test animals it never trains on. The shaded sides show what the machine would say there, and a dashed ring marks each animal it gets wrong right now. Tap the plane to move the new card there.Cada animal aquí es inventado. Una cabeza con orejas puntiagudas es un gato, una con orejas caídas un perro. Las cabezas rellenas son las tarjetas de práctica de las que aprende; las huecas son los doce animales de prueba con los que nunca practica. Los lados sombreados muestran lo que diría la máquina ahí, y un anillo punteado marca cada animal con el que se equivoca ahora. Toque el plano para mover ahí la tarjeta nueva.
What is happeningQué está pasando
A person made this tool. A person chose what it looks at, how pointy an animal’s ears are and how long its nose is, and the rule it uses to learn. Nobody ever tells it the rule for cats and dogs.Una persona hizo esta herramienta. Una persona eligió lo que mira, qué tan puntiagudas son las orejas de un animal y qué tan larga es su nariz, y la regla que usa para aprender. Nadie le dice nunca la regla para gatos y perros.
It learns from examples. For each card it adds up a vote: each feature times its weight, plus a push. Above zero it says cat, below zero it says dog. When a guess is wrong, it nudges its weights toward the right answer, and the dividing line moves. When a whole round of cards brings no mistakes, the line stops moving.Aprende de ejemplos. Para cada tarjeta suma un voto: cada rasgo por su peso, más un empuje. Arriba de cero dice gato, abajo de cero dice perro. Cuando se equivoca, ajusta sus pesos hacia la respuesta correcta, y la línea divisoria se mueve. Cuando una ronda completa de tarjetas no trae errores, la línea deja de moverse.
It can be wrong. The fair test uses animals it never trained on, and even then it misses one, a dog with pointy ears and a short nose. Trained on a lopsided deck whose dogs all have floppy ears, it calls half the test dogs cats. That is bias, and it comes from the examples, so the fix is better examples, not scolding the machine.Puede equivocarse. La prueba justa usa animales con los que nunca practicó, y aun así falla con uno, un perro de orejas puntiagudas y nariz corta. Entrenada con un mazo disparejo cuyos perros tienen todos las orejas caídas, llama gatos a la mitad de los perros de prueba. Eso es sesgo, y viene de los ejemplos, así que la solución son mejores ejemplos, no regañar a la máquina.
Things to tryCosas para probar
- Press Check one card a few times and watch which mistakes move the line.Oprima Revisar una tarjeta varias veces y vea qué errores mueven la línea.
- Train the lopsided deck and read the percent wrong for cats and for dogs. Which kind does it treat unfairly?Entrene el mazo disparejo y lea el porcentaje de errores con gatos y con perros. ¿A qué clase trata injustamente?
- Choose the empty deck and teach the machine with as few cards as you can.Elija el mazo vacío y enséñele a la máquina con la menor cantidad de tarjetas que pueda.
- Compare its score on its own practice cards with its score on the test animals. Why is the test the honest one?Compare su resultado con sus propias tarjetas de práctica y con los animales de prueba. ¿Por qué la prueba es la honesta?
This is a model. Every animal here is made up, and real animals cannot be sorted by two features alone. Real classifiers look at many more features and learn from many more examples, and many draw curved lines, but they learn the same way: from examples, by changing numbers when they are wrong.Esto es un modelo. Cada animal aquí es inventado, y los animales reales no se pueden ordenar solo con dos rasgos. Los clasificadores reales miran muchos más rasgos y aprenden de muchos más ejemplos, y muchos trazan líneas curvas, pero aprenden de la misma manera: de ejemplos, cambiando números cuando se equivocan.
Open the simulation on its own pageAbrir la simulación en su propia página
Use it, share it, adapt itÚsela, compártala, adáptela
The credit to copyEl crédito para copiar
Free BYRD, CC BY. “Data and Bias” from the Byrd Academy STEM Curriculum by Byrd EDU, byrdathome.org.Free BYRD, CC BY. “Datos y sesgo”, del Currículo STEM de Byrd Academy, de Byrd EDU, byrdathome.org.
This is free to use, share and adapt, even commercially, under the Creative Commons Attribution 4.0 International license (CC BY 4.0), with this credit. What Free BYRD means.Esto es libre de usar, compartir y adaptar, incluso con fines comerciales, bajo la licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0), con este crédito. Qué significa Free BYRD.