Aprendiste algo así sin darte cuenta
Acuérdate de tu primer trabajo atendiendo público, o del de alguien cercano. Nadie te dio una tabla de cuánto iba a dejar de propina cada tipo de cliente. Fue así:
- Atendiste una mesa
- Pensaste "estos dejan poco"
- Te equivocaste
- Ajustaste
Otra mesa, otra corregida. A los dos meses mirabas entrar a un grupo y ya tenías una intuición bastante buena, sin saber explicar de dónde salía 👀
Eso es exactamente lo que hace un modelo. Sin la intuición y sin el cansancio, pero el mecanismo es ese: predecir, medir el error, corregir un poco, repetir.
Vamos despacio por las cuatro partes, porque si entiendes estas cuatro entiendes el noventa por ciento de las conversaciones sobre IA que vas a tener en tu trabajo.
1. Los ejemplos
Un modelo no aprende de explicaciones, aprende de casos resueltos. Filas donde ya sabes la respuesta.
Digamos que quieres predecir qué cliente no va a pagar su crédito. Tus ejemplos son los clientes de años anteriores: lo que sabías de cada uno cuando pediste el préstamo, y al final de la fila, lo que terminó pasando. Pagó o no pagó.
Esa última columna es la que manda, y tiene un nombre feo pero vale la pena saberlo: es la etiqueta. Sin ella no hay nada que aprender. Es la diferencia entre tener datos y tener ejemplos.
Acá está la primera trampa de la vida real, y te la digo ahora porque es la que hunde proyectos: casi ninguna empresa tiene la etiqueta bien guardada. Tienen los datos del cliente, sí. Pero lo que pasó después está en la cabeza de alguien, en un correo, o en un Excel que se sobrescribió. En 9 vemos qué hacer con eso.
2. El intento
El modelo arranca sin saber nada. Literalmente adivina. Le pasas el primer cliente y dice "este paga", con la misma seguridad con la que lo diría una moneda al aire.
Está bien que sea así. Lo importante no es el primer intento, es lo que pasa después.
3. El error
Acá está el corazón de todo esto, y es lo único que de verdad hay que agarrar.
El sistema compara lo que dijo con lo que pasó de verdad, y le pone un número a cuán mal estuvo. No "estuvo mal". Un número. Si dijo que pagaba y no pagó, ese número es alto.
Que el error sea un número es lo que hace posible todo lo demás. Porque un número se puede bajar, y se puede saber en qué dirección moverse para bajarlo. Si el error fuera una opinión, no habría nada que hacer con él 📉
4. La corrección
El modelo tiene por dentro un montón de perillas. Cada perilla decide cuánto pesa cada cosa que mira:
- Cuánto importa el sueldo
- Cuánto la edad
- Cuánto los meses en el trabajo anterior
Después de medir el error, el sistema mueve cada perilla un poquito, en la dirección que hace bajar el número. Poquito de verdad, no de un salto. Y vuelve al ejemplo siguiente.
Miles de ejemplos, muchas vueltas, millones de correcciones diminutas. Al final las perillas quedan en una posición que funciona bastante bien para el montón, y nadie eligió esa posición: salió de repetir el ajuste.
Eso es entrenar. Cuando en tu trabajo alguien diga "estamos entrenando el modelo", está pasando esto y nada más que esto 🐣
La parte incómoda: aprende lo que sea, con tal de bajar el número
Fíjate bien en lo que acabamos de describir. El sistema no persigue la verdad. No persigue entender. Persigue bajar el número del error, y va a agarrar cualquier señal que se lo permita.
Si en tus datos hay una pista fácil que separa los casos, la agarra, aunque no tenga nada que ver con lo que tú querías que aprendiera. Mira lo de arriba, lo de las radiografías. Ese caso no es una historia de miedo inventada: es la forma normal en que fallan estos sistemas.
Y por eso hay una pregunta que vale más que cualquier presentación con resultados: ya sé que acierta, pero ¿acierta mirando qué?
La trampa
Un hospital entrena un modelo para detectar neumonía en radiografías. En las pruebas acierta casi siempre y todo el mundo celebra. Lo instalan, y en el hospital de al lado falla.
Radiografías de entrenamiento:
Hospital A (equipo portátil) -> la mayoría con neumonía
Hospital B (equipo fijo) -> la mayoría sanas
Lo que el modelo aprendió a mirar:
el sello del equipo portátil en la esquina de la placa
Qué está mal
El modelo nunca aprendió a ver neumonía. Aprendió a reconocer qué máquina tomó la radiografía 😰
Y funcionaba, porque en esos datos el equipo portátil se usaba en los casos graves. La correlación era real. En otro hospital, donde el portátil se usa para cualquier cosa, la señal desaparece y el modelo se cae.
Esto tiene nombre, se llama atajo, y es el error más caro de la IA aplicada. El modelo no busca la causa: busca lo que separe los ejemplos con el menor esfuerzo posible. Si el sello es más fácil de ver que el pulmón, mira el sello.
Por eso nadie que sepa lo que hace te va a decir "el modelo acierta mucho" y quedarse ahí. La pregunta siguiente siempre es: ¿acierta mirando qué?
Entonces, ¿y cuando "estudia" demasiado?
Hay un segundo problema y es el gemelo del anterior.
Imagínate que en vez de aprender el patrón, el modelo se memoriza los ejemplos uno por uno. Con los que ya vio va a acertar todo, obviamente. Con uno nuevo se cae de cara.
Es el alumno que se aprendió el examen del año pasado de memoria: brilla en la práctica y se hunde el día de la prueba. En IA eso tiene nombre también, se llama sobreajuste, y es lo que más ocupa a quien hace esto en serio.
La defensa es de sentido común y por eso te la puedes exigir a ti misma en cualquier reunión: se aparta un pedazo de los datos, el modelo no lo ve nunca durante el entrenamiento, y se le mide ahí. Si alguien te enseña resultados y no te sabe decir sobre qué datos los midió, no te está enseñando nada 🙃
Lo que te llevas
- Aprender es: intentar, medir el error como número, corregir un poquito, repetir.
- Sin ejemplos que ya traigan la respuesta no hay nada que aprender.
- El sistema no busca la verdad, busca bajar el error, y va a agarrar atajos.
- Dos preguntas que valen oro: ¿acierta mirando qué? y ¿sobre qué datos lo midieron?
Comprueba que se entendió
Comprueba que lo tienes
Un proveedor te presenta un modelo que predice qué cliente se va a ir, y te dice que acierta en el 92% de los casos. ¿Qué le preguntas antes de creerle?
- Sobre qué datos midieron ese 92%, y si el modelo los había visto antes
- Cuántos datos usaron para entrenarlo
- Qué lenguaje de programación usaron
- Cuánto tiempo tomó entrenarlo
Ahora que sabes cómo aprende, vamos a ver las tres cosas distintas que puede aprender a hacer, porque no es lo mismo predecir un número que generar una foto 🐥