Definición
La ventana de contexto es la cantidad máxima de información, medida en tokens, que un modelo de lenguaje puede considerar al mismo tiempo para generar una respuesta. Incluye las instrucciones, la conversación previa, los documentos de referencia y la propia respuesta. Si la información supera ese límite, el modelo no puede tenerla en cuenta completa. Ventanas más grandes permiten analizar documentos extensos o conversaciones largas, pero no garantizan mejores respuestas: sigue siendo importante entregar solo el contexto relevante y bien organizado, por ejemplo mediante técnicas de recuperación como RAG.
¿Qué significa Ventana de contexto y cómo funciona?
Piensa en la memoria de trabajo de una persona en una reunión: recuerda lo que se ha dicho, pero hasta cierto límite. La ventana de contexto es la cantidad máxima de información, medida en tokens, que un modelo de IA puede considerar al mismo tiempo, incluyendo instrucciones, conversación, documentos y respuesta.
Así funciona
- Envías instrucciones, mensajes y documentos al modelo.
- Todo se convierte en tokens.
- El modelo procesa lo que cabe dentro de su ventana.
- Si se supera el límite, parte de la información queda fuera.
Una ventana grande ayuda, pero no garantiza buena atención a todo. Dar solo el contexto relevante suele mejorar los resultados.
Términos relacionados
Preguntas frecuentes
Otras preguntas de los usuarios
¿Qué es Ventana de contexto?
Cantidad máxima de texto que un modelo puede considerar en una sola interacción.
¿Qué pasa cuando se supera la ventana de contexto?
El modelo no puede procesar toda la información. Dependiendo de la herramienta, puede recortar los mensajes más antiguos, rechazar la solicitud o resumir parte del contenido. Esto puede hacer que olvide instrucciones o detalles importantes, por lo que conviene organizar la información y repetir lo esencial.
¿Una ventana de contexto más grande siempre es mejor?
Permite procesar más documentos o conversaciones largas, pero puede aumentar costos y tiempos de respuesta. Además, los modelos pueden prestar menos atención a información en medio de textos muy extensos. Enviar contexto preciso y bien organizado suele ser más efectivo que enviar todo.
¿Cómo se relaciona con los agentes de IA?
Los agentes usan la ventana de contexto para recordar instrucciones, conversación, datos del cliente y resultados de herramientas. Si la información es excesiva, el agente puede perder precisión. Por eso se combinan memoria, búsqueda en bases de conocimiento y resúmenes para mantener solo lo relevante en cada momento.
