# KVP: aprender qué conservar en la caché KV de un modelo de IA

Análisis técnico de la expulsión aprendida de entradas KV: utilidad futura, aprendizaje por refuerzo fuera de línea, resultados y límites de las mejoras de eficiencia.

Source: https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction

INICIO / Noticias y análisis Noticias y análisis KVP: aprender qué conservar en la caché KV de un modelo de IA Análisis técnico de la expulsión aprendida de entradas KV: utilidad futura, aprendizaje por refuerzo fuera de línea, resultados y límites de las mejoras de eficiencia. IA 2026.10.10 publicado IPLEX 13 min de lectura El artículo y el alcance del análisis El agente de patentes coreano Yongdeok Kim analiza Learning to Evict from Key-Value Cache, de Luca Moschella, Laura Manduchi y Ozan Sener, de Apple. Se toma como referencia la versión de las actas de ICML 2026: Proceedings of the 43rd International Conference on Machine Learning, PMLR 306:90470–90496. Kim firma este comentario, no el trabajo de investigación. El identificador arXiv es 2602.10238, publicado inicialmente el 10 de febrero de 2026 y revisado como v2 el 26 de junio de 2026. El DOI 10.48550/arXiv.2602.10238 corresponde al registro de arXiv, no a un DOI independiente de PMLR. KVP aprende un orden de prioridad para conservar entradas de cada caché KV, favoreciendo información que pueda resultar útil después con distintas capacidades de memoria. El problema de memoria Un Transformer almacena las claves y los valores de tokens anteriores para evitar recalcularlos al procesar cada nuevo token. La caché KV crece con el contexto. Reducirla puede eliminar pistas necesarias para una pregunta posterior: como ocurre con los documentos sobre una mesa pequeña, el consultado más recientemente no siempre será el más útil a continuación. Las políticas habituales recurren a la posición, la atención pasada o propiedades de los vectores de claves. KVP aprende a estimar la utilidad futura. La figura 1 compara los tokens destacados en una conversación de viaje por KVP, una referencia ideal basada en la atención futura real y StreamingLLM. Esa referencia se calcula retrospectivamente para el aprendizaje; la política desplegada no conoce las preguntas futuras. Diálogo de viaje: KVP, atención futura y StreamingLLM — Figura 1, Moschella, Manduchi y Sener, ICML 2026, CC BY 4.0 Un orden de prioridad para varias capacidades KVP puntúa todas las entradas y conserva las b mejor clasificadas cuando el presupuesto de caché es b. El mismo orden puede emplearse con 500 o 1.000 entradas, por ejemplo. El objetivo agrega la importancia de atención futura descartada para distintos presupuestos, en lugar de aprender una decisión binaria para una única capacidad. Con la utilidad aditiva definida en el artículo, ordenar por importancia futura proporciona una clasificación óptima común para ese objetivo indirecto. No demuestra que se maximice la exactitud de todas las respuestas. La suma de valores de atención no recoge plenamente las interacciones entre tokens ni la calidad de la generación. Una política pequeña por capa y cabeza KV La red recibe la clave, el valor y la posición original del token. Durante el despliegue no necesita el vector de consulta ni la matriz completa de atención. Se utiliza un pequeño perceptrón multicapa para cada capa y cabeza KV. En la configuración principal Qwen2.5-7B, las 28 capas con cuatro cabezas KV cada una dan lugar a 112 políticas de unos 650.000 parámetros por política. En inferencia se leen K, V y posición, se calculan puntuaciones, se seleccionan las entradas mejor clasificadas y se continúa con la caché retenida. La implementación evaluada conserva siempre los primeros cuatro y los últimos dieciséis tokens. El presupuesto se reparte por igual entre cabezas; el experimento no aprende una asignación desigual. Aprender fuera de línea con atención futura Primero se ejecuta el modelo base para recoger trazas de consultas, claves y valores. La atención que consultas posteriores prestan a claves anteriores permite estimar su utilidad futura. Con esas trazas se calcula la recompensa sin ejecutar de nuevo todo el modelo en cada actualización de la política. La recogida inicial sigue teniendo un coste. Las puntuaciones definen una distribución Plackett–Luce de ordenaciones. Se añade ruido Gumbel y se ordena para muestrear varias alternativas en paralelo. REINFORCE actualiza las políticas con una referencia RLOO, calculada a partir de las recompensas de las demás muestras. La recompensa combina pérdidas de distintos presupuestos, pequeños y grandes. La información futura sirve de señal de aprendizaje; las decisiones desplegadas solo utilizan características ya almacenadas. Condiciones experimentales El modelo principal es Qwen2.5-7B. Las políticas se entrenan con secuencias RULER de unos 4K tokens o conversaciones OASST2. Se comparan con StreamingLLM, TOVA, SnapKV, LagKV, KeyDiff y K-Norm; el apéndice incluye Phi-4-14B. Los resultados de las diferentes distribuciones de entrenamiento deben distinguirse. En contextos cortos se comprime una vez tras el prefill, el procesamiento inicial de la entrada, y después se genera la respuesta. Las entradas largas se procesan por bloques junto con las entradas previamente conservadas. Algunos ensayos cortos simulan la expulsión mediante máscaras de atención; los largos compactan físicamente los tensores KV. La mejora de exactitud no se traduce automáticamente en un ahorro universal de memoria o latencia. Resultados en contextos cortos En la figura 2, Cache Size indica los tokens retenidos. Una exactitud RULER mayor es mejor, mientras que en OASST2 se busca menor perplejidad. KVP obtiene buenos resultados en un intervalo amplio de capacidades; cuando hay caché suficiente, las diferencias entre métodos tienden a estrecharse. Con presupuestos extremadamente pequeños, LagKV puede superar a KVP en OASST2. La evidencia respalda una buena relación entre calidad y capacidad bajo las condiciones ensayadas, no una superioridad en toda tarea y con cualquier presupuesto. Exactitud RULER y perplejidad OASST2 — Figura 2, Moschella, Manduchi y Sener, ICML 2026, CC BY 4.0 De un entrenamiento de 4K a entradas de 128K La figura 3 aplica a RULER-128K una política entrenada con unos 4K tokens. KVP supera a los métodos representados en todo el intervalo de presupuestos mostrado, lo que apunta a una transferencia de la clasificación a entradas mucho más largas. La magnitud absoluta sigue siendo relevante: con una caché de 10.000 entradas, la exactitud es aproximadamente del 29% según la gráfica. Es una lectura aproximada, no una memoria casi perfecta de un documento de 128K. El ensayo muestra una mejora relativa bajo compresión, no la desaparición de la pérdida de información. Exactitud en RULER-128K por capacidad de caché — Figura 3, Moschella, Manduchi y Sener, ICML 2026, CC BY 4.0 Los datos cambian las prioridades de retención La figura 5 compara KVPᴿ, entrenado con RULER, y KVPˢ, entrenado con OASST2, en recuperación de pasajes en inglés y chino de LongBench. KVPᴿ destaca con capacidades pequeñas. En la gráfica inglesa, con unas 1.000 entradas, supera el 90%, mientras KVPˢ ronda el 40%; son estimaciones visuales. Las evaluaciones BoolQ y GovReport del artículo favorecen, en cambio, la política entrenada con diálogo. La búsqueda asistida, las conversaciones largas y los resúmenes pueden exigir prioridades diferentes. Antes de una implantación deben comprobarse las pistas que necesita la tarea, junto con calidad, memoria y latencia. Recuperación en inglés y chino según datos de entrenamiento — Figura 5, Moschella, Manduchi y Sener, ICML 2026, CC BY 4.0 Qué aporta el estudio de ablación La figura 6 compara regresión, aprendizaje de ordenación por pares, por listas y por refuerzo. El eje vertical no es exactitud: representa la contribución negativa de recompensa, un coste de entrenamiento normalizado por posición, donde menos es mejor. Concentrarse en unos pocos tokens de atención elevada puede dejar mal aprendida la ordenación del resto. La recompensa que abarca varios presupuestos ayuda a abordar ese problema. SoftSort sin ponderación también resulta competitivo fuera de las capacidades mínimas. La ablación se refiere a OASST2, capa 10 y cabeza KV 0; no acredita que el aprendizaje por refuerzo sea el único objetivo adecuado para todos los modelos y cabezas. Ablación del objetivo en una capa y cabeza de OASST2 — Figura 6, Moschella, Manduchi y Sener, ICML 2026, CC BY 4.0 Coste de selección frente a velocidad del servicio La figura 7 mide la puntuación de importancia y el cálculo de índices de selección de cachés KV individuales en una NVIDIA B200, con el prefill y la decodificación del modelo completo como referencias. Excluye el recálculo de atención de TOVA y SnapKV. Para 10.000 tokens, la selección KVP tarda unos 0,71 ms y el prefill completo unos 404 ms. Las cifras corresponden a operaciones distintas: su cociente no demuestra una aceleración de cientos de veces del servicio completo. La estimación basada en parámetros, incluidas las 112 políticas, pasa de unos 14 a 14,15 GFLOPs por token, aproximadamente un 1% adicional. Es cómputo teórico, no una medición de un 1% de latencia o memoria extra. Tampoco se presenta una comparación de servicio optimizada de extremo a extremo. Tiempo de selección KV y referencias de prefill y decodificación — Figura 7, Moschella, Manduchi y Sener, ICML 2026, CC BY 4.0 Preparación y limitaciones El ejemplo de recogida de trazas OASST2 comprende 4.649 conversaciones, siete nodos con ocho GPU cada uno y unos 1,2 TB de datos. El entrenamiento de una política tarda menos de 30 minutos en un nodo con ocho H100. No es el tiempo total de recogida y entrenamiento de las 112 políticas. La atención futura sigue siendo una variable indirecta; las políticas independientes por capa y cabeza no modelan plenamente sus interacciones, y dependen de la distribución de datos. La evaluación se centra en la compresión alrededor del prefill. No establece por sí sola la fiabilidad de una expulsión continua durante generaciones muy prolongadas. Lectura desde la práctica de patentes El problema técnico consiste en mantener una caché creciente dentro de una memoria limitada, reduciendo la pérdida de información necesaria para inferencias posteriores. Conviene analizar conjuntamente la política por capa y cabeza basada en K, V y posición, el orden compartido entre presupuestos, la recompensa integrada y el entrenamiento fuera de línea sobre trazas recogidas previamente. La distinción relevante es que la información futura construye los objetivos de entrenamiento, pero la política desplegada solo utiliza la caché actual. Los efectos acreditados son mejoras de calidad con presupuestos concretos, transferencia a contextos largos y un coste limitado de selección bajo condiciones definidas. No acreditan por sí solos patentabilidad, concesión de una patente ni alcance de protección. El potencial de KVP debe valorarse junto con su dependencia de datos, objetivos y evaluación. Datos de publicación y texto completo Figuras: CC BY 4.0; contenido original conservado y formato adaptado a la web Conocer nuestra práctica de patentes de IA Leer el original coreano Este artículo del archivo refleja la situación en su fecha de publicación. Contacte con el despacho para analizar su caso. Consultar sobre este tema ↗ Todos los artículos EN ESTA PÁGINA El artículo y el alcance del análisis El problema de memoria Un orden de prioridad para varias capacidades Una política pequeña por capa y cabeza KV Aprender fuera de línea con atención futura Condiciones experimentales Resultados en contextos cortos De un entrenamiento de 4K a entradas de 128K Los datos cambian las prioridades de retención Qué aporta el estudio de ablación Coste de selección frente a velocidad del servicio Preparación y limitaciones Lectura desde la práctica de patentes HABLE CON IPLEX Consulte sus necesidades de propiedad intelectual Analizamos conjuntamente sus necesidades tecnológicas y empresariales. ↗ Contactar Más reciente Derecho a registrar un diseño en Corea: modificar no equivale a crear ↗ Anterior Divulgación de diseños: una fecha de venta antigua no basta por sí sola ↗ Artículos relacionados IA 2026.10.15 PaTH Attention: codificar el recorrido entre tokens Análisis de las transformaciones de Householder dependientes de la entrada, el seguimiento de estados y los límites experimentales de PaTH. ↗ Lea el artículo IA 2026.10.14 Pangu Weather de Huawei: encadenar modelos con distintos intervalos de predicción Lectura técnica de US20250258318A1: selección de intervalos, transferencia de estados previstos y combinación de datos meteorológicos. ↗ Lea el artículo IA 2026.10.13 LaCT: memoria temporal de IA actualizada en bloques grandes Análisis técnico de los pesos rápidos, la eficiencia de GPU y el orden causal de LaCT, con las condiciones y límites de sus experimentos. ↗ Lea el artículo

- https://www.iplexlaw.co.kr/es
- https://www.iplexlaw.co.kr/es/blog/category/ai
- https://proceedings.mlr.press/v306/moschella26a.html
- https://creativecommons.org/licenses/by/4.0/
- https://www.iplexlaw.co.kr/es/ai-patents
- https://www.iplexlaw.co.kr/ko/blog/kvp-learned-kv-cache-eviction
- https://www.iplexlaw.co.kr/es/contact
- https://www.iplexlaw.co.kr/es/blog
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-0
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-1
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-2
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-3
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-4
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-5
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-6
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-7
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-8
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-9
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-10
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-11
- https://www.iplexlaw.co.kr/es/blog/kvp-learned-kv-cache-eviction#case-1818-en-12
- https://www.iplexlaw.co.kr/es/contact
- https://www.iplexlaw.co.kr/es/blog/brunch-case-1819
- https://www.iplexlaw.co.kr/es/blog/brunch-case-1817
- https://www.iplexlaw.co.kr/es/blog/path-attention-householder-transformations
- https://www.iplexlaw.co.kr/es/blog/path-attention-householder-transformations
- https://www.iplexlaw.co.kr/es/blog/huawei-pangu-weather-time-interval-models
- https://www.iplexlaw.co.kr/es/blog/huawei-pangu-weather-time-interval-models
- https://www.iplexlaw.co.kr/es/blog/lact-large-chunk-test-time-training
- https://www.iplexlaw.co.kr/es/blog/lact-large-chunk-test-time-training