Cómo funciona
Claude: usted marca dónde termina la parte fija del prompt. En la primera llamada se escribe en la caché (1.25× el precio de entrada, o 2× para una duración de 1 hora); en las siguientes se lee por una fracción del precio: del 2.5% al 10% de la entrada, según el modelo. La caché vence tras 5 minutos sin uso (o 1 hora).
OpenAI: la caché es automática para prefijos repetidos y cobra el 10% de la entrada en los tokens en caché, sin costo de escritura.
Cuándo conviene
Conviene cuando la parte fija es grande y las llamadas son lo bastante frecuentes para que la caché no venza. Con una tasa de aciertos baja, en Claude, cada escritura cuesta más de lo que ahorra la lectura.
Ponga al principio del prompt lo que nunca cambia (instrucciones, herramientas, documentos) y al final lo que cambia en cada llamada.