TL;DRCantidad máxima de texto que un modelo puede considerar en una sola interacción.
Definición
La ventana de contexto es la cantidad máxima de información, medida en tokens, que un modelo de lenguaje puede considerar al mismo tiempo para generar una respuesta. Incluye las instrucciones, la conversación previa, los documentos de referencia y la propia respuesta. Si la información supera ese límite, el modelo no puede tenerla en cuenta completa. Ventanas más grandes permiten analizar documentos extensos o conversaciones largas, pero no garantizan mejores respuestas: sigue siendo importante entregar solo el contexto relevante y bien organizado, por ejemplo mediante técnicas de recuperación como RAG.
Términos relacionados
GroundingAnclar las respuestas de la IA a fuentes verificables para reducir errores.Modelo multimodalModelo que entiende y genera varios tipos de datos, como texto, imagen y audio.RAG (Retrieval-Augmented Generation)Técnica que hace que un modelo busque en tus documentos antes de responder, ...TokenUnidad de texto que procesa un modelo de lenguaje; determina límites y costos ...
Preguntas frecuentes
¿Qué es Ventana de contexto?
Cantidad máxima de texto que un modelo puede considerar en una sola interacción.