# PagedAttention: cómo vLLM gestiona la caché KV y la memoria GPU Explicación de bloques lógicos y físicos, copia en escritura y límites del experimento original con un chatbot. Source: https://www.iplexlaw.co.kr/es/blog/pagedattention-vllm-kv-cache INICIO / Noticias y análisis Noticias y análisis PagedAttention: cómo vLLM gestiona la caché KV y la memoria GPU Explicación de bloques lógicos y físicos, copia en escritura y límites del experimento original con un chatbot. IA 2026.10.19 publicado IPLEX 7 min de lectura Por qué la generación necesita memoria Se analiza la versión 1 de arXiv del trabajo de Woosuk Kwon, Zhuohan Li y colaboradores, presentado el 12 de septiembre de 2023. Los modelos autorregresivos generan un token cada vez. La caché KV conserva claves y valores calculados para la atención, no un documento con el texto literal del usuario. Su tamaño aumenta con la secuencia. Reservar una región contigua grande por solicitud deja espacio sin utilizar y produce fragmentación entre peticiones de distinta longitud. PagedAttention modifica la asignación y el uso compartido de memoria, no el entrenamiento del modelo. Ejemplo hipotético de dos respuestas que comparten bloques KV de entrada Separar orden lógico y ubicación física Cada bloque contiene datos KV de un número fijo de tokens. Una tabla relaciona el orden lógico de la solicitud con bloques físicos y posiciones ocupadas; los bloques contiguos lógicamente no necesitan estar juntos en la GPU. Se asigna lo necesario para la entrada, se completa el último bloque y se añade otro cuando hace falta. La atención sigue esa correspondencia y mantiene el orden. Compartir un conjunto de memoria no mezcla conversaciones ajenas: cada solicitud conserva su propia asignación. Dos respuestas a una entrada: ejemplo hipotético Imaginemos que una herramienta de atención genera A y B desde el mismo texto e instrucciones. Ambas tablas pueden apuntar a los bloques físicos de entrada comunes. Las partes generadas divergen y necesitan almacenamiento separado; compartir palabras no implica valores KV iguales, pues importan contexto y posición. Si queda espacio en un bloque compartido, se copia al escribir cuando existen otras referencias. Los bloques comunes completos siguen compartidos; solo se separa el necesario o se asigna uno nuevo. Los bloques sin referencias se liberan. La ilustración es conceptual, no una pantalla real ni un resultado medido. Qué significa el resultado de aproximadamente el doble La sección 6.5 indica que vLLM sostuvo aproximadamente el doble de solicitudes por unidad de tiempo que tres variantes de Orca en un experimento de chatbot. Se refiere a capacidad bajo las condiciones de latencia ensayadas, no a duplicar la precisión ni a reducir a la mitad todas las respuestas. Las llegadas se generaron experimentalmente y no se conservó la caché entre turnos de conversación. No son mediciones del servicio hipotético. Longitudes de entrada y salida, capacidad de GPU y tráfico condicionan la mejora. Gestión de memoria y documentación técnica Dividir en bloques no selecciona solo parte del historial, no elimina tokens poco relevantes ni amplía automáticamente la ventana de contexto. Los bloques pequeños reducen huecos finales, pero añaden costes de gestión. FlashAttention-2 optimiza cálculo y paralelismo; PagedAttention se centra en ubicar y compartir KV que crece durante la generación. Para revisión técnica y de PI, documente cuándo se asigna, cómo se mapea, cuándo se comparte, copia y libera, y mida longitudes y concurrencia. Son recomendaciones prácticas, distintas de los experimentos: describa los pasos modificados, no solo «menos memoria». Se conservan las indicaciones y formas originales; el contenido se explica en el texto. Servicio relacionado: patentes de IA Artículo PagedAttention, versión 1 Análisis técnico original en Tistory Leer el original coreano Este artículo del archivo refleja la situación en su fecha de publicación. Contacte con el despacho para analizar su caso. Consultar sobre este tema ↗ Todos los artículos EN ESTA PÁGINA Por qué la generación necesita memoria Separar orden lógico y ubicación física Dos respuestas a una entrada: ejemplo hipotético Qué significa el resultado de aproximadamente el doble Gestión de memoria y documentación técnica HABLE CON IPLEX Consulte sus necesidades de propiedad intelectual Analizamos conjuntamente sus necesidades tecnológicas y empresariales. ↗ Contactar Más reciente Cómo identificar la invención objeto de un procedimiento de alcance ↗ Anterior Creatividad del diseño al combinar componentes conocidos ↗ Artículos relacionados Inteligencia artificial 2026.10.29 SwiLA: una memoria organizada según el contexto Análisis de Switching Linear Attention: cómo combina regresores lineales dentro de un estado fijo, qué muestran sus pruebas de recuperación y qué límites de capacidad y coste computacional persisten. ↗ Lea el artículo Inteligencia artificial 2026.10.28 La patente de síntesis de voz de Microsoft: sonidos, palabras y estructura de la oración La patente US12094447B2 combina información de fonemas o caracteres con representaciones de palabras y estructura gramatical para generar voz. ↗ Lea el artículo Inteligencia artificial 2026.10.27 GBLA: procesar historiales largos de recomendación con eficiencia Análisis técnico y desde la práctica de patentes de la atención lineal bidireccional con compuertas, su codificador híbrido y los resultados publicados. ↗ Lea el artículo - https://www.iplexlaw.co.kr/es - https://www.iplexlaw.co.kr/es/blog/category/ai - https://www.iplexlaw.co.kr/es/ai-patents - https://arxiv.org/abs/2309.06180v1 - https://iplexlaw.tistory.com/11 - https://www.iplexlaw.co.kr/ko/blog/pagedattention-vllm-kv-cache - https://www.iplexlaw.co.kr/es/contact - https://www.iplexlaw.co.kr/es/blog - https://www.iplexlaw.co.kr/es/blog/pagedattention-vllm-kv-cache#article-tistory11-en-0 - https://www.iplexlaw.co.kr/es/blog/pagedattention-vllm-kv-cache#article-tistory11-en-1 - https://www.iplexlaw.co.kr/es/blog/pagedattention-vllm-kv-cache#article-tistory11-en-2 - https://www.iplexlaw.co.kr/es/blog/pagedattention-vllm-kv-cache#article-tistory11-en-3 - https://www.iplexlaw.co.kr/es/blog/pagedattention-vllm-kv-cache#article-tistory11-en-4 - https://www.iplexlaw.co.kr/es/contact - https://www.iplexlaw.co.kr/es/blog/brunch-case-1853 - https://www.iplexlaw.co.kr/es/blog/brunch-case-1852 - https://www.iplexlaw.co.kr/es/blog/swila-switching-linear-attention - https://www.iplexlaw.co.kr/es/blog/swila-switching-linear-attention - https://www.iplexlaw.co.kr/es/blog/microsoft-multilevel-tts - https://www.iplexlaw.co.kr/es/blog/microsoft-multilevel-tts - https://www.iplexlaw.co.kr/es/blog/gbla-generative-retrieval - https://www.iplexlaw.co.kr/es/blog/gbla-generative-retrieval