ExploreExplorarBH-0028
Find the bias in a lopsided deckEncuentre el sesgo en un mazo disparejo
Train one person on a fair deck and another on a lopsided one, measure the percent wrong for each group, then fix the deck and measure again.Entrene a una persona con un mazo parejo y a otra con uno disparejo, mida el porcentaje de errores de cada grupo, y luego arregle el mazo y mida otra vez.
- Ways in:Formas de empezar:
- Read, 2 minutesLeer, 2 minutos
- Do, 45 minutesHacer, 45 minutos
- Simulate, 10 minutesSimular, 10 minutos
- AgesEdades
- Every age. Best for ages 10 and up.Todas las edades. Ideal desde los 10 años.
- CostCosto
- Things already at homeCosas que ya hay en casa
- From the curriculumDel currículo
- AI-JH-03
The MESH'D components this item uses:Los componentes MESH'D que usa:SoftwareSoftwareHolistic DesignDiseño integral
Do, about 45 minutesHacer, unos 45 minutos
Build it at homeConstrúyalo en casa
StepsPasos
- The secret rule: circles are blibs and squares are zorps, whatever their color. Draw a test deck with the same number of red circles, blue circles, red squares and blue squares, such as four of each.La regla secreta: los círculos son blibs y los cuadrados son zorps, sin importar el color. Dibuje un mazo de prueba con la misma cantidad de círculos rojos, círculos azules, cuadrados rojos y cuadrados azules, por ejemplo cuatro de cada uno.
- Draw a fair training deck the same way, and a lopsided one where every circle is red and every square is blue.Dibuje un mazo de entrenamiento parejo de la misma manera, y uno disparejo donde todos los círculos son rojos y todos los cuadrados son azules.
- Train one sorter, a family member who does not know the rule, on the fair deck, and another on the lopsided deck, showing each card with its label: blib or zorp.Entrene a un clasificador, una persona de la familia que no conoce la regla, con el mazo parejo, y a otro con el mazo disparejo, mostrando cada tarjeta con su etiqueta: blib o zorp.
- Test both sorters on the same test deck and tally their mistakes by group: red circles, blue circles, red squares, blue squares.Pruebe a los dos clasificadores con el mismo mazo de prueba y cuente sus errores por grupo: círculos rojos, círculos azules, cuadrados rojos, cuadrados azules.
- Work out the percent wrong for each group: the mistakes divided by the cards in that group, times one hundred. Draw a bar chart.Calcule el porcentaje de errores de cada grupo: los errores entre las tarjetas de ese grupo, por cien. Dibuje una gráfica de barras.
- Rebalance the lopsided deck, train a new sorter on it, test again and compare the charts.Equilibre el mazo disparejo, entrene a un clasificador nuevo con él, pruebe otra vez y compare las gráficas.
What you needLo que necesita
- Index cards and markers in two colors, such as red and blueTarjetas y marcadores de dos colores, como rojo y azul
- Paper and a pencil for talliesPapel y un lápiz para contar
- Graph paper for the bar chartPapel cuadriculado para la gráfica de barras
Things already at home.Cosas que ya hay en casa.
This experiment is all cards, with no screen. Whenever your family does use an AI tool, a grown-up drives it, and it is never for personal or feelings questions.Este experimento es solo con tarjetas, sin pantalla. Cada vez que su familia use una herramienta de IA, una persona adulta la maneja, y nunca es para preguntas personales ni de sentimientos.
Read, 2 minutesLeer, 2 minutos
The big ideaLa gran idea
A machine that learns from examples is only as fair as its examples. If the training deck is lopsided, missing some kinds of cards or full of a pattern that does not really matter, a sorter can learn that pattern and get some groups wrong far more often than others. That is bias, and it is about what is in the data, not about anyone being mean. You can measure it by counting the percent wrong for each group, and the fix is data too: rebalancing the deck usually works better than just deleting the cards you do not like, and you can test that instead of guessing.Una máquina que aprende de ejemplos es tan justa como sus ejemplos. Si el mazo de entrenamiento está disparejo, porque le faltan algunos tipos de tarjetas o está lleno de un patrón que en realidad no importa, un clasificador puede aprender ese patrón y equivocarse con algunos grupos mucho más que con otros. Eso es sesgo, y tiene que ver con lo que hay en los datos, no con que alguien sea malo. Se puede medir contando el porcentaje de errores de cada grupo, y la solución también son los datos: volver a equilibrar el mazo suele funcionar mejor que solo quitar las tarjetas que no le gustan, y puede probarlo en lugar de adivinar.
Explore, 10 minutesExplorar, 10 minutos
How a machine learns to sortCómo aprende a ordenar una máquina
Train a simple machine to sort made-up cats and dogs from examples, watch its line move with each mistake, and test it fairly on animals it has never seen.Entrene una máquina sencilla para ordenar gatos y perros inventados a partir de ejemplos, vea moverse su línea con cada error y pruébela de forma justa con animales que nunca ha visto.
The drawing shows where it starts. It runs here once its script has loaded.El dibujo muestra dónde empieza. Funciona aquí una vez que carga su código.
Your challengeSu reto
- With the fair deck, train the machine until a whole round has no mistakes.Con el mazo parejo, entrene la máquina hasta que una ronda completa no tenga errores. Not done yet.Todavía no.
- Train it on the lopsided deck and catch it calling a test dog a cat.Entrénela con el mazo disparejo y descúbrala llamando gato a un perro de prueba. Not done yet.Todavía no.
- Fix the lopsided deck with cards of your own, and train until it gets eleven of the twelve test animals right.Arregle el mazo disparejo con tarjetas suyas y entrene hasta que acierte once de los doce animales de prueba. Not done yet.Todavía no.
Every challenge done. Now try it for real at home.Todos los retos logrados. Ahora pruébelo de verdad en casa.
Test cats it calls cats, animals it never trained onGatos de prueba que llama gatos, animales con los que nunca practicó
Test dogs it calls dogsPerros de prueba que llama perros
Percent wrong on each kind:Porcentaje de errores con cada clase:
Its own practice cards it sorts rightSus propias tarjetas de práctica que ordena bien
Training so far:Entrenamiento hasta ahora:
Its weights, the numbers it learned:Sus pesos, los números que aprendió: earsorejas nosenariz pushempuje
The new card:La tarjeta nueva:
Every animal here is made up. A head with pointed ears is a cat, one with hanging ears a dog. Filled heads are the practice cards it learns from; hollow heads are the twelve test animals it never trains on. The shaded sides show what the machine would say there, and a dashed ring marks each animal it gets wrong right now. Tap the plane to move the new card there.Cada animal aquí es inventado. Una cabeza con orejas puntiagudas es un gato, una con orejas caídas un perro. Las cabezas rellenas son las tarjetas de práctica de las que aprende; las huecas son los doce animales de prueba con los que nunca practica. Los lados sombreados muestran lo que diría la máquina ahí, y un anillo punteado marca cada animal con el que se equivoca ahora. Toque el plano para mover ahí la tarjeta nueva.
What is happeningQué está pasando
A person made this tool. A person chose what it looks at, how pointy an animal’s ears are and how long its nose is, and the rule it uses to learn. Nobody ever tells it the rule for cats and dogs.Una persona hizo esta herramienta. Una persona eligió lo que mira, qué tan puntiagudas son las orejas de un animal y qué tan larga es su nariz, y la regla que usa para aprender. Nadie le dice nunca la regla para gatos y perros.
It learns from examples. For each card it adds up a vote: each feature times its weight, plus a push. Above zero it says cat, below zero it says dog. When a guess is wrong, it nudges its weights toward the right answer, and the dividing line moves. When a whole round of cards brings no mistakes, the line stops moving.Aprende de ejemplos. Para cada tarjeta suma un voto: cada rasgo por su peso, más un empuje. Arriba de cero dice gato, abajo de cero dice perro. Cuando se equivoca, ajusta sus pesos hacia la respuesta correcta, y la línea divisoria se mueve. Cuando una ronda completa de tarjetas no trae errores, la línea deja de moverse.
It can be wrong. The fair test uses animals it never trained on, and even then it misses one, a dog with pointy ears and a short nose. Trained on a lopsided deck whose dogs all have floppy ears, it calls half the test dogs cats. That is bias, and it comes from the examples, so the fix is better examples, not scolding the machine.Puede equivocarse. La prueba justa usa animales con los que nunca practicó, y aun así falla con uno, un perro de orejas puntiagudas y nariz corta. Entrenada con un mazo disparejo cuyos perros tienen todos las orejas caídas, llama gatos a la mitad de los perros de prueba. Eso es sesgo, y viene de los ejemplos, así que la solución son mejores ejemplos, no regañar a la máquina.
Things to tryCosas para probar
- Press Check one card a few times and watch which mistakes move the line.Oprima Revisar una tarjeta varias veces y vea qué errores mueven la línea.
- Train the lopsided deck and read the percent wrong for cats and for dogs. Which kind does it treat unfairly?Entrene el mazo disparejo y lea el porcentaje de errores con gatos y con perros. ¿A qué clase trata injustamente?
- Choose the empty deck and teach the machine with as few cards as you can.Elija el mazo vacío y enséñele a la máquina con la menor cantidad de tarjetas que pueda.
- Compare its score on its own practice cards with its score on the test animals. Why is the test the honest one?Compare su resultado con sus propias tarjetas de práctica y con los animales de prueba. ¿Por qué la prueba es la honesta?
This is a model. Every animal here is made up, and real animals cannot be sorted by two features alone. Real classifiers look at many more features and learn from many more examples, and many draw curved lines, but they learn the same way: from examples, by changing numbers when they are wrong.Esto es un modelo. Cada animal aquí es inventado, y los animales reales no se pueden ordenar solo con dos rasgos. Los clasificadores reales miran muchos más rasgos y aprenden de muchos más ejemplos, y muchos trazan líneas curvas, pero aprenden de la misma manera: de ejemplos, cambiando números cuando se equivocan.
Open the simulation on its own pageAbrir la simulación en su propia página
Your engineering challengeSu reto de ingeniería
Make a before and after bar chart showing the percent wrong for each group with the lopsided deck and with your fixed deck, and explain the cause using the deck, not the sorter.Haga una gráfica de barras de antes y después con el porcentaje de errores de cada grupo con el mazo disparejo y con el mazo arreglado, y explique la causa con el mazo, no con el clasificador.
Make it an experimentConviértalo en un experimento
Science is about changing one thing and watching what happens. Write down your guess, your hypothesis, before you start.La ciencia se trata de cambiar una cosa y observar qué pasa. Escriba su suposición, su hipótesis, antes de empezar.
- Try two fixes on the lopsided deck: delete the cards that seem to cause trouble, or add the missing kinds of cards. Train a new sorter on each and compare the percent wrong.Pruebe dos arreglos en el mazo disparejo: quitar las tarjetas que parecen causar problemas, o agregar los tipos de tarjetas que faltan. Entrene a un clasificador nuevo con cada uno y compare el porcentaje de errores.
- Ask where your data came from: who made the deck, and who or what is missing from it?Pregúntese de dónde salieron sus datos: ¿quién hizo el mazo, y quién o qué falta en él?
Use it, share it, adapt itÚsela, compártala, adáptela
The credit to copyEl crédito para copiar
Free BYRD, CC BY. “Find the bias in a lopsided deck” from the Byrd Academy STEM Curriculum by Byrd EDU, byrdathome.org.Free BYRD, CC BY. “Encuentre el sesgo en un mazo disparejo”, del Currículo STEM de Byrd Academy, de Byrd EDU, byrdathome.org.
This is free to use, share and adapt, even commercially, under the Creative Commons Attribution 4.0 International license (CC BY 4.0), with this credit. What Free BYRD means.Esto es libre de usar, compartir y adaptar, incluso con fines comerciales, bajo la licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0), con este crédito. Qué significa Free BYRD.