Un juego que ya juegas todos los días
Cuando escribes en WhatsApp y el teclado te sugiere la palabra siguiente, eso es un modelo de lenguaje. Chiquito, tonto, pero es exactamente lo mismo.
Escribes "estoy llegando en" y te ofrece "cinco". Escribes "feliz" y te ofrece "cumpleaños". Nadie programó esas reglas: el teclado vio millones de mensajes y aprendió qué palabra suele venir después de cuál.
ChatGPT es ese mismo juego, con dos diferencias: vio una cantidad de texto enormemente mayor, y en vez de mirar las dos últimas palabras mira todo lo que llevan escrito los dos.
Ya está. Ese es el mecanismo entero, y no estoy escondiéndote la parte complicada: predecir la palabra que sigue, una tras otra 🐣
"Pero eso es demasiado simple para lo que hace"
Es la reacción normal y es una buena objeción. ¿Cómo puede algo que solo adivina la palabra siguiente escribir un correo decente, resumir un texto o explicarte un tema?
Porque para acertar la palabra siguiente de verdad bien, hay que haber aprendido un montón de cosas por el camino.
Piénsalo con una frase: "El gato que perseguía a los ratones del vecino de arriba estaba muy...". Para completar eso bien tienes que saber que el sujeto es el gato y no los ratones ni el vecino, que "estaba" pide un adjetivo, y que después de perseguir ratones lo razonable es "cansado" y no "morado".
Nada de eso se lo enseñó nadie por separado. Salió de perseguir la palabra siguiente millones de millones de veces. Es lo mismo del capítulo 2: el sistema persigue una sola cosa, y por el camino aprende lo que haga falta para conseguirla 🔍
Y ahora la parte que te importa: por qué inventa
Acá está lo único que de verdad tienes que llevarte de este capítulo.
El modelo no tiene una base de datos que consultar. No tiene una lista de cosas ciertas. No hay ningún momento en el proceso donde se pregunte "¿esto es verdad?". Solo produce la continuación que le parece mejor puesta.
Y aquí está el problema: un dato falso bien escrito le parece igual de bien puesto que uno verdadero.
Si le pides el nombre de un libro sobre un tema, "El arte de decidir con datos, de María Fernández, editorial Planeta, 2019" es una continuación perfectamente razonable. Suena a título de libro, suena a nombre de autora, suena a editorial. Que exista o no es una pregunta que el modelo nunca se hace 😐
Mira la trampa de arriba, la del abogado. Es el caso más famoso de esto y terminó en sanción.
Por qué suena tan seguro cuando se equivoca
Esta parte molesta más que la anterior, y es la que engaña a la gente lista.
El modelo escribe con el mismo tono cuando acierta y cuando inventa. No hay un "creo que" que aparezca solo en las respuestas dudosas, porque el tono también es texto y también se predice igual. Aprendió de textos escritos por gente que sabía de lo que hablaba, así que suena como esa gente siempre.
Y por eso no sirve preguntarle "¿estás seguro?". Esa pregunta también se contesta produciendo la continuación que suena bien, y después de "¿estás seguro?" lo que suena bien es "sí, lo confirmo". El abogado del caso hizo exactamente eso.
La única comprobación que sirve es la de siempre: ir a la fuente. Si te dio un dato, un nombre o una cifra que vas a usar en algo que importa, búscalo tú 🙂
Dónde sí es buenísimo y dónde no
| Le va bien cuando | Le va mal cuando |
|---|---|
| Le das tú el texto y le pides que lo resuma o lo reescriba | Le pides datos, cifras o citas que tiene que traer de su memoria |
| Le pides que cambie el tono o el formato de algo | Le preguntas por cosas que pasaron después de su entrenamiento |
| Le pides ideas, borradores, puntos de partida | Le pides que haga cuentas exactas donde el número tiene que salir bien |
| Le pides que te explique algo que ya está muy escrito por ahí | Le preguntas por documentos internos que nunca vio |
Fíjate en el patrón de la columna izquierda: casi siempre le estás dando tú el material. Cuando el modelo trabaja sobre un texto que le pegaste, no tiene que inventar nada, y ahí es donde de verdad rinde.
Ese patrón es el consejo práctico más útil que te puedo dar sobre estas herramientas, y en el capítulo 7 vemos qué precio tiene pegarle material, porque tiene uno.
Lo que te llevas
- Un modelo de lenguaje predice la palabra siguiente. Eso es todo lo que hace.
- Inventa porque un dato falso bien escrito le parece igual de buena continuación que uno real.
- Suena igual de seguro acertando que inventando, y preguntarle si está seguro no sirve de nada.
- Rinde de verdad cuando tú le das el material, no cuando se lo pides de su memoria.
Comprueba que se entendió
Comprueba que lo tienes
Le pides a ChatGPT el resumen de un informe interno de tu empresa que nunca ha visto, y te devuelve un resumen detallado y convincente. ¿Qué pasó?
- Se inventó un resumen que suena a informe de ese tipo
- Buscó el informe en internet y lo resumió
- Se equivocó y hay que volver a preguntarle mejor
- Lo aprendió cuando entrenaron el modelo
En el siguiente vemos por qué la misma herramienta le funciona bien a tu compañero y a ti no, que casi nunca es cosa de suerte 🐥