¿Qué es Context Window (Ventana de contexto)?
Cantidad máxima de texto (medida en tokens) que un LLM puede procesar en una sola solicitud, incluyendo el prompt y la respuesta.
Cada modelo tiene un límite de tokens que puede "ver" a la vez. Modelos modernos van desde 128k hasta más de 1M tokens, pero enviar más contexto no siempre mejora la respuesta — puede diluir la atención del modelo en información irrelevante.
Gestionar bien el contexto (enviar solo lo relevante, resumir historial largo) es clave para respuestas precisas y costos controlados.
La ventana de contexto es el máximo de tokens que el modelo puede considerar a la vez: tu prompt, el historial de la conversación, los documentos que le pases y su propia respuesta. Lo que no cabe, el modelo no lo ve.
Los modelos actuales tienen ventanas que van de decenas de miles a más de un millón de tokens, pero más contexto no siempre es mejor: cuesta más, tarda más y la información importante puede perderse entre lo irrelevante. Dar el contexto justo sigue siendo una habilidad.
Preguntas frecuentes
¿Qué pasa si me paso de la ventana de contexto?
La aplicación recorta o resume lo más antiguo, o la API devuelve un error. Por eso las conversaciones muy largas «olvidan» lo del principio.
¿Una ventana más grande sustituye a RAG?
Para pocos documentos, a veces sí. Con muchos datos o datos que cambian, RAG sigue siendo más barato y preciso.
Términos relacionados
Siguiente paso: curso de prompting y modelos de IA.