Capítulo 4 de 11 7 secciones 5 min

Qué es un modelo de lenguaje y por qué a veces inventa

Adivina la palabra que sigue. Suena a poco, y explica todo lo que hace bien y todo lo que hace mal.

Un modelo de lenguaje hace una sola cosa: mirar el texto que lleva y predecir qué palabra viene después, una y otra vez. No consulta una base de datos ni comprueba si algo es cierto. Por eso escribe tan bien y por eso inventa: un dato falso que suena bien puesto le resulta igual de buena continuación que uno real, y no tiene forma de notar la diferencia 🫠

Un juego que ya juegas todos los días

Cuando escribes en WhatsApp y el teclado te sugiere la palabra siguiente, eso es un modelo de lenguaje. Chiquito, tonto, pero es exactamente lo mismo.

Escribes "estoy llegando en" y te ofrece "cinco". Escribes "feliz" y te ofrece "cumpleaños". Nadie programó esas reglas: el teclado vio millones de mensajes y aprendió qué palabra suele venir después de cuál.

ChatGPT es ese mismo juego, con dos diferencias: vio una cantidad de texto enormemente mayor, y en vez de mirar las dos últimas palabras mira todo lo que llevan escrito los dos.

Ya está. Ese es el mecanismo entero, y no estoy escondiéndote la parte complicada: predecir la palabra que sigue, una tras otra 🐣

"Pero eso es demasiado simple para lo que hace"

Es la reacción normal y es una buena objeción. ¿Cómo puede algo que solo adivina la palabra siguiente escribir un correo decente, resumir un texto o explicarte un tema?

Porque para acertar la palabra siguiente de verdad bien, hay que haber aprendido un montón de cosas por el camino.

Piénsalo con una frase: "El gato que perseguía a los ratones del vecino de arriba estaba muy...". Para completar eso bien tienes que saber que el sujeto es el gato y no los ratones ni el vecino, que "estaba" pide un adjetivo, y que después de perseguir ratones lo razonable es "cansado" y no "morado".

Nada de eso se lo enseñó nadie por separado. Salió de perseguir la palabra siguiente millones de millones de veces. Es lo mismo del capítulo 2: el sistema persigue una sola cosa, y por el camino aprende lo que haga falta para conseguirla 🔍

Y ahora la parte que te importa: por qué inventa

Acá está lo único que de verdad tienes que llevarte de este capítulo.

El modelo no tiene una base de datos que consultar. No tiene una lista de cosas ciertas. No hay ningún momento en el proceso donde se pregunte "¿esto es verdad?". Solo produce la continuación que le parece mejor puesta.

Y aquí está el problema: un dato falso bien escrito le parece igual de bien puesto que uno verdadero.

Si le pides el nombre de un libro sobre un tema, "El arte de decidir con datos, de María Fernández, editorial Planeta, 2019" es una continuación perfectamente razonable. Suena a título de libro, suena a nombre de autora, suena a editorial. Que exista o no es una pregunta que el modelo nunca se hace 😐

Mira la trampa de arriba, la del abogado. Es el caso más famoso de esto y terminó en sanción.

Por qué suena tan seguro cuando se equivoca

Esta parte molesta más que la anterior, y es la que engaña a la gente lista.

El modelo escribe con el mismo tono cuando acierta y cuando inventa. No hay un "creo que" que aparezca solo en las respuestas dudosas, porque el tono también es texto y también se predice igual. Aprendió de textos escritos por gente que sabía de lo que hablaba, así que suena como esa gente siempre.

Y por eso no sirve preguntarle "¿estás seguro?". Esa pregunta también se contesta produciendo la continuación que suena bien, y después de "¿estás seguro?" lo que suena bien es "sí, lo confirmo". El abogado del caso hizo exactamente eso.

La única comprobación que sirve es la de siempre: ir a la fuente. Si te dio un dato, un nombre o una cifra que vas a usar en algo que importa, búscalo tú 🙂

Dónde sí es buenísimo y dónde no

Le va bien cuandoLe va mal cuando
Le das tú el texto y le pides que lo resuma o lo reescriba Le pides datos, cifras o citas que tiene que traer de su memoria
Le pides que cambie el tono o el formato de algo Le preguntas por cosas que pasaron después de su entrenamiento
Le pides ideas, borradores, puntos de partida Le pides que haga cuentas exactas donde el número tiene que salir bien
Le pides que te explique algo que ya está muy escrito por ahí Le preguntas por documentos internos que nunca vio

Fíjate en el patrón de la columna izquierda: casi siempre le estás dando tú el material. Cuando el modelo trabaja sobre un texto que le pegaste, no tiene que inventar nada, y ahí es donde de verdad rinde.

Ese patrón es el consejo práctico más útil que te puedo dar sobre estas herramientas, y en el capítulo 7 vemos qué precio tiene pegarle material, porque tiene uno.

Lo que te llevas

  • Un modelo de lenguaje predice la palabra siguiente. Eso es todo lo que hace.
  • Inventa porque un dato falso bien escrito le parece igual de buena continuación que uno real.
  • Suena igual de seguro acertando que inventando, y preguntarle si está seguro no sirve de nada.
  • Rinde de verdad cuando tú le das el material, no cuando se lo pides de su memoria.

Comprueba que se entendió

Comprueba que lo tienes

Le pides a ChatGPT el resumen de un informe interno de tu empresa que nunca ha visto, y te devuelve un resumen detallado y convincente. ¿Qué pasó?

  • Se inventó un resumen que suena a informe de ese tipo
  • Buscó el informe en internet y lo resumió
  • Se equivocó y hay que volver a preguntarle mejor
  • Lo aprendió cuando entrenaron el modelo

En el siguiente vemos por qué la misma herramienta le funciona bien a tu compañero y a ti no, que casi nunca es cosa de suerte 🐥

¿Tienes alguna duda o consulta?