Qué es un LLM y cómo funciona ChatGPT por dentro

¿Qué es un LLM?

LLM son las siglas de large language model, o modelo de lenguaje grande. Es la tecnología detrás de ChatGPT y compañía. Se entrena mostrándole una parte gigantesca del texto que existe en internet (libros, artículos, foros) y pidiéndole una sola cosa millones de veces: adivina la siguiente palabra. De tanto practicar ese juego, termina aprendiendo gramática, hechos, estilos, razonamientos y hasta a programar.

Es un tipo de deep learning: por dentro es una red neuronal enorme (una arquitectura llamada transformer). Lo "grande" viene de que tiene miles de millones de parámetros y se entrenó con cantidades descomunales de texto.

¿Cómo funciona ChatGPT por dentro?

Cuando le escribes algo a ChatGPT, no busca tu respuesta en un cajón. La construye palabra por palabra, eligiendo en cada paso la continuación más probable según lo que aprendió y según tu conversación. Es como un autocompletar extremadamente sofisticado.

Un detalle técnico útil: el modelo no lee palabras exactas, sino tokens (pedazos de palabras). "Inteligencia" puede ser varios tokens. Por eso a veces cuenta mal las letras de una palabra o el largo de un texto: no ve letras, ve tokens. Entender esto te ayuda a darle mejores instrucciones.

Por qué un LLM a veces se equivoca (alucinaciones)

Como el LLM genera lo más probable, no lo más verdadero, puede inventar con total seguridad. A eso se le llama alucinación: te da un dato falso, una cita que no existe o una fuente inventada, pero redactado de forma tan convincente que parece cierto. No miente a propósito; simplemente completó el patrón sin saber si es real.

Por eso mi regla de oro con estas herramientas es: úsalas como un asistente brillante pero distraído. Genial para redactar, resumir, ordenar ideas y darte un primer borrador. Pero todo dato, cifra o cita hay que verificarlo. El criterio para validar sigue siendo tuyo, y esa es justo la habilidad que enseño a desarrollar en el Full Day IA.

Preguntas frecuentes

¿ChatGPT es un LLM?

Sí. ChatGPT es una aplicación construida sobre un LLM (los modelos GPT). Gemini, Claude y Copilot también son LLM, cada uno con su propio modelo.

¿Un LLM entiende lo que dice?

No en el sentido humano. Predice texto probable con una fluidez impresionante, pero no comprende ni tiene conciencia. Que suene inteligente no significa que entienda.

¿Qué son los tokens en un LLM?

Son los pedazos de texto (partes de palabras) en los que el modelo divide todo. El modelo procesa y cobra por tokens, no por palabras exactas. Por eso a veces falla al contar letras.

¿Por qué el LLM inventa datos falsos?

Porque genera la continuación más probable, no la más verdadera. Cuando no tiene el dato, completa el patrón igual, y eso produce alucinaciones. Siempre verifica la información importante.

¿Cómo medir la calidad de un LLM?

Los rankings públicos sirven para descartar, no para elegir: miden tareas generales que casi nunca son la tuya. Lo que decide es medir sobre tu propio caso, con treinta o cuarenta ejemplos reales de tu proceso y la respuesta que tú considerarías buena. Corre los dos o tres modelos candidatos contra esos casos y compara. Suele pasar que el que gana en los rankings no es el que gana en lo tuyo.

¿Cómo reducir las alucinaciones de un LLM?

Atacando la causa, que casi siempre es que le falta información y no que el modelo sea malo. Cuatro cosas, en orden de impacto: darle la fuente en vez de esperar que la recuerde; pedirle que cite de dónde sacó cada afirmación; permitirle explícitamente decir que no sabe, porque si no se lo permites va a inventar; y acotar la pregunta. Y una regla que no cambia: si no te muestra la fuente, verifícalo antes de usarlo.

¿Cómo medir precisión en sistemas generativos?

No con una sola métrica, porque la misma pregunta admite varias respuestas buenas. La precisión se descompone en cuatro cosas que se miden aparte: si la información es correcta, si respondió lo que se le pidió, si respetó el formato, y si se mantuvo dentro de lo que se le permitió decir. Un solo porcentaje que resuma todo esconde justo lo que necesitas ver.

¿Qué es LLM as a judge?

Es usar un modelo para evaluar la salida de otro, que es lo que hace viable medir respuestas en texto libre donde no existe una única respuesta correcta. Le das el criterio escrito, la respuesta esperada y la que salió, y devuelve un juicio. El punto crítico es que el juez también se equivoca, así que hay que calibrarlo contra tu propio criterio antes de confiar en él.

¿Cómo crear un juez automático con IA?

En tres pasos. Escribe el criterio como se lo darías a una persona que entra a revisar: qué hace buena a una respuesta y qué la descalifica, con ejemplos de las dos. Dáselo al modelo junto con la respuesta esperada y la que salió. Y compara sus juicios contra los tuyos en una muestra hasta que coincidan lo suficiente. Ese último paso es el que casi nadie hace y el que decide si el juez sirve.

¿Cómo calibrar un LLM judge?

Juzgando tú misma una muestra y midiendo el acuerdo. Tomas unos cuarenta casos, los calificas a mano, le pides al juez que los califique, y mides en qué porcentaje coinciden. Si el acuerdo es bajo, el problema casi siempre está en el criterio escrito y no en el modelo: es que dice "que sea buena" en vez de decir qué la hace buena. Se ajusta el criterio y se vuelve a medir.

Entender la IA es el primer paso. Usarla es el que cambia tu trabajo

Saber que es la inteligencia artificial esta bien, pero lo que mueve la aguja es aplicarla. En el Full Day IA pasas de la teoría a usar herramientas de IA en tu trabajo real, en un día, sin programar y con acompañamiento en vivo. Es el punto de entrada que recomiendo para empezar bien.

Conoce el Full Day IA Ver el glosario de IA

Qué hay debajo de un LLM

Un LLM es un transformer muy grande entrenado para predecir la siguiente palabra. Lo interesante es qué hace que eso funcione, y es el mecanismo de atención: cada palabra mira a todas las demás a la vez.

Está explicado sin fórmulas en la guía de deep learning desde cero, junto con la parte que hace falta en una empresa, que es cuándo conviene ajuste fino, cuándo RAG y cuándo basta un buen prompt.

Entender el modelo y construir con él son dos oficios

Saber cómo funciona un modelo de lenguaje te salva de las dos trampas más comunes: creerle todo y esperar que haga cosas que no puede.

Construir algo encima que aguante en producción es otro trabajo distinto, con sus propias herramientas. Es lo que se practica en el curso de ingeniería de IA en producción, y el libro de deep learning te deja listo el fundamento.

Formate con Gera