Si últimamente ha estado pensando en comprar una computadora portátil nueva, es probable que haya escuchado este término. Un amigo o familiar experto en tecnología puede advertirle que no utilice chips Celeron más baratos, citando la falta de “caché”. Esto parece ser un pequeño detalle en las especificaciones. No lo es.
¿Qué es un caché? Es una capa de almacenamiento de datos de alta velocidad ubicada entre el procesador y la memoria principal. Sin él, la informática moderna se arrastraría.
Las computadoras usan caché en todas partes. Dentro del procesador hay caché L1, L2 y, a menudo, L3. A continuación, los sistemas operativos tienen cachés de memoria, cachés de páginas y cachés de disco. La memoria virtual también actúa como una especie de caché. Acelere las tareas y reduzca los costos de hardware. Cómo funciona esto en la práctica.
Analogía del bibliotecario: sin caché
Para entender la lógica, quitemos el silicio y usemos el bibliotecario. Imagine una biblioteca donde usted mismo no puede tocar los libros. le preguntaste al bibliotecario que corrió al almacén trasero a buscar el libro.
Llega el primer cliente. Quería Moby Dick. El bibliotecario entró en el almacén, sacó un libro y se lo entregó. El cliente devuelve el libro más tarde. El bibliotecario lo llevó al almacén. Regresó a su escritorio y esperó.
El próximo cliente vuelve a querer Moby Dick. El bibliotecario tiene que recorrer nuevamente todo el almacén. Incluso en los títulos populares, siempre hace el mismo trabajo ineficiente.
Así funciona una computadora sin caché. Utiliza la memoria principal (almacenamiento) para cada solicitud independientemente de la frecuencia.
Analogía del bibliotecario: uso de caché
Ahora dale a ese bibliotecario una mochila al bibliotecario. Puede llevar hasta 10 libros. Esta mochila es un caché.
Un nuevo día ha comenzado. La mochila está vacía. El primer cliente quería Moby Dick. El bibliotecario fue al almacén, tomó el libro y se lo entregó. El cliente devuelve el libro. En lugar de llevarlo al almacén, el bibliotecario lo guarda en su mochila. Él permaneció sentado en su escritorio.
Llega otro cliente. Quiero Moby Dick. El bibliotecario primero busca una mochila. El libro está ahí. Se lo entregó de inmediato. No hay necesidad de ir al almacén. Los clientes obtienen un servicio más rápido.
Este es un golpe de caché. Este producto fue encontrado en almacenamiento rápido.
Errores de caché y latencia
¿Qué pasa si el cliente pide un libro que no está en la mochila? El bibliotecario primero debe buscar la bolsa. Sólo entonces se dio cuenta de que faltaba. Luego corrió al almacén.
Esto es un error de caché.
¿Esto hace que el bibliotecario sea menos eficiente? Técnicamente sí. Primero perdió el tiempo revisando la bolsa. Sin embargo, en informática este retraso es insignificante. El hardware moderno comprueba la disponibilidad de la caché en nanosegundos. En comparación, el camino hacia el “almacenamiento” (memoria principal) es enorme. La penalización por omitir es pequeña en comparación con la penalización por no almacenar en caché.
Reglas de almacenamiento en caché importantes
A partir de este modelo simple, vemos la mecánica central.
- Velocidad y tamaño: Los cachés utilizan memoria más rápida y más pequeña para acelerar la memoria más lenta y más grande. Funciona con sistemas operativos, servidores web y hardware.
- Acertar y fallar: Primero verifique el caché. ¿Lo encontraste? Golpear. ¿Extraviado? Señorita. Luego, el sistema debe recuperar los datos de un grupo más grande y más lento.
- Limitación de tamaño: La memoria caché siempre es más pequeña que la memoria principal. No puedes poner toda la biblioteca en una mochila.
- Múltiples capas: Se pueden apilar. Nuestro bibliotecario podría tener un estante (alijos más grandes) y mochilas (alijos más pequeños y más rápidos) detrás del mostrador. Revisa la mochila, luego los estantes, luego el trastero. Este es un caché de varios niveles.
Esta jerarquía hace que las computadoras se sientan ágiles, incluso cuando técnicamente hacen malabarismos con grandes cantidades de datos. Los datos que más utiliza permanecen cerca del procesador. El resto espera al fondo.
Cómo las cachés L1, L2 y L3 mejoran la velocidad de la CPU
El tiempo es el enemigo de la informática. Mide el tiempo del procesador en nanosegundos. Cuando el microprocesador accede a la RAM, espera unos 60 nanosegundos. Se siente muy lento. Para un chip con un ciclo corto de 2 nanosegundos, 60 nanosegundos es una eternidad.
La solución son las clases de velocidad. Los ingenieros han construido un banco de memoria especial en la placa base. Es pequeño. Es rápido. El acceso tarda unos 30 nanosegundos. Esto es dos veces más rápido que la memoria principal. Este es el caché de segundo nivel o L2.
Luego está el caché de primer nivel o L1. Colocaron esta pequeña memoria de alta velocidad directamente en el chip del microprocesador. Los datos ahora se transfieren a la velocidad del propio procesador en lugar del bus de memoria. En un Pentium de 233 MHz, la caché L1 es 3,5 veces más rápida que la caché L2, que es dos veces más rápida que la RAM.
Algunos chips más nuevos son incluso más avanzados. Incorporaron dos capas de caché dentro de la matriz de silicio. Cuando esto sucede, la memoria caché de la placa base pasa al nivel 3 o L3. Crea una escalera de velocidad.
Lo más rápido de una computadora es el microprocesador. L1 almacena en caché L2. Memoria principal caché L2. Luego, la memoria principal almacena en caché los periféricos más lentos, como discos duros y CD-ROM. Los discos duros también pueden almacenar en caché su conexión a Internet.
Caché del navegador: por qué las páginas web se cargan más rápido
El acceso a Internet se ha convertido en un cuello de botella. Este es el eslabón más lento de la cadena. Los navegadores web como Chrome y Safari lo saben. Utilizan su disco duro como almacenamiento temporal.
Cuando accede a una página HTML por primera vez, su navegador carga la página y guarda una copia en una carpeta específica de su disco. Renderiza la página. Ya lo ves.
La próxima vez que haga clic en la URL, su navegador comprobará la marca de tiempo. Compara la fecha del archivo almacenado en caché en el disco con la fecha del servidor web. Si el archivo del servidor no es nuevo, el navegador omitirá la descarga. Sirve la copia local.
Un sistema de memoria más pequeño y más rápido es el disco duro. El sistema más grande y más lento es Internet.
Experimentando con la caché del disco duro y las unidades de disquete
Los cachés no están sólo en tu CPU o navegador. Vive en los periféricos. Los discos duros modernos tienen memoria rápida. Normalmente alrededor de 512 KB. El controlador del disco duro administra esta memoria en lugar de que la computadora la administre directamente.
Cuando el sistema solicita datos, el controlador primero verifica este caché interno. Esto se hace antes de mover el cabezal mecánico del variador. El movimiento mecánico es lento. El acceso a la memoria es inmediato. Si los datos se almacenan en caché, el controlador regresa inmediatamente. La cabeza nunca se mueve. Ahorras tiempo.
Puedes comprobar el comportamiento de este caché tú mismo. Pruebe un experimento con una unidad de disquete. Los disquetes son muy lentos.
Abra un archivo grande, como un archivo de texto de 300 KB. La luz del disquete se enciende. Esperar. La carga tarda unos 20 segundos mientras la unidad busca físicamente los datos.
Ahora cierra el editor. Abra el mismo archivo nuevamente inmediatamente. No esperes 30 minutos. No llenes la memoria con otras tareas. La luz del disquete no se enciende. El archivo se carga instantáneamente.
El sistema operativo comprueba la memoria caché en busca de datos del disquete. Lo encontró.
La diferencia es obvia. Un acceso a un disquete tarda 120 milisegundos. Acceder a la memoria principal tarda unos 60 nanosegundos. Esa es una enorme brecha en la velocidad. Esta prueba se puede realizar en un disco duro, pero los resultados no son tan notorios. El disquete hace visible la latencia.
Jerarquía de caché: velocidad y tamaño
Para comprender todo el sistema, mire los números.
- Caché L1 : Memoria caché a la máxima velocidad del microprocesador. El tiempo de acceso es de unos 10 nanosegundos. El tamaño varía de 4 KB a 16 KB.
- Caché L2 : acceso basado en SRAM. Se necesitan entre 20 y 30 nanosegundos. El tamaño suele estar entre 128 y 512 KB.
- Memoria Principal : RAM normal. El acceso tarda unos 60 nanosegundos. El tamaño varía de 32 MB a 128 MB.
- HDD : Mecánico y lento. El acceso tarda unos 12 milisegundos. El tamaño es de 1 GB a 10 GB.
- Internet : Increíblemente lento. La latencia oscila entre 1 segundo y días. El tamaño es prácticamente ilimitado.
L1 almacena en caché L2. Memoria principal caché L2. Disco de memoria caché principal. El disco almacena en caché la red.
Se trata de una carrera de relevos en la que cada corredor es más rápido que el anterior. Sin embargo, los datos siempre se transfieren del lado más lento al más rápido. Si el caché falla, espera. Si te golpea, no lo haces. El rendimiento general de la máquina está determinado por la frecuencia con la que se sitúa entre una memoria pequeña y rápida y un almacenamiento grande y lento.
Imagine un mundo en el que cada byte de la RAM de su computadora se ejecutara tan rápido como el caché L1 de su CPU. Sería un rayo. También está en quiebra.
Esta es una compensación fundamental en la arquitectura informática. Necesita velocidad, pero también debe asegurarse de que su cuenta bancaria no desaparezca cuando compre una computadora nueva. El almacenamiento en caché es el compromiso. Utilice pequeñas cantidades de memoria rápida y costosa para acelerar grandes cantidades de memoria lenta y barata.
Éstas son las matemáticas detrás de la locura.
Los chips modernos de 500 MHz completan 500 millones de ciclos por segundo. Este es un ciclo cada 2 nanosegundos. Si tu CPU tiene que esperar por la RAM, te toparás con un muro. Acceder a la memoria principal tarda unos 60 nanosegundos. Esto son unos 30 ciclos desperdiciados. 30 ciclos. Desaparecido. El desperdicio ocurre cuando el procesador espera que lleguen datos desde un almacenamiento lento.
Sin la caché L1 y L2, su computadora permanecería inactiva durante la mayor parte de su vida, esperando que la memoria se recuperara.
La magia de un pequeño caché
Considere una caché L2 de 256 KB que administre 64 MB de RAM. Esto equivale aproximadamente a una proporción de 256.000 bytes de caché por 64.000.000 de bytes.
¿Cómo puede una memoria tan pequeña y rápida gestionar grandes cantidades de datos? Funciona según un principio llamado localidad de referencia.
Aunque parezca académico, el concepto es intuitivo. En programas bastante complejos, no utilizarás todo el código al mismo tiempo. Sólo una pequeña parte se reutiliza. Incluso si el archivo ejecutable tiene un tamaño de 10 megabytes, sólo hay unos pocos cientos de bytes activos por segundo. ¿Y esos bytes específicos? Aparecen una y otra vez.
La CPU no tiene que recuperar códigos y datos de la memoria principal lenta cada vez que es necesario. Recuperar del caché. El caché se ve afectado casi siempre porque los mismos bits se siguen reutilizando.
Localidad de Referencia en Acción
Veamos un flujo lógico simple para ver por qué es así. Imagine un programa que le pide que ingrese un número entre 1 y 100.
- El programa está esperando entrada.
- Guarde su número en la variable X.
- Establezca la variable Y en 100.
- Establezca la variable Z en 1.
- Bucle: Divide Z por X.
- Si el resto es cero, imprima “Z es múltiplo de X”.
- Suma 1 a Z.
- Repita el paso 5 hasta que Z llegue a Y.
Las líneas 1 a 4 se ejecutan sólo una vez. El bucle (líneas 5 a 8) se ejecuta 100 veces.
El procesador ejecuta instrucciones de bucle repetidamente. Estas instrucciones permanecen almacenadas en caché para que se ejecuten a máxima velocidad. ¿Qué pasa con el resto del programa? Se ejecuta una vez y luego desaparece.
Esta es localidad de referencia en inglés sencillo. Aproximadamente el 95% del tiempo de ejecución de un programa se dedica a ejecutar un pequeño conjunto de código repetitivo. Los procesadores de texto hacen lo mismo. Pasan el 95% de su tiempo esperando a que escribas o actualices la pantalla. El código que maneja la interacción se almacena en caché. El 5% restante hace el trabajo pesado: formatear, revisar la ortografía y guardar.
Al mantener ese 5% caliente en la memoria rápida, tu CPU sentirá que está funcionando al instante. Los usuarios lo encuentran responsivo. Los fabricantes ahorran dinero al no tener que utilizar SRAM (memoria estática de acceso aleatorio) para construir módulos de RAM de 64 MB. Utiliza DRAM (RAM dinámica) para carga masiva y SRAM para caché.
No es un equilibrio perfecto. A veces el caché falla y la CPU todavía tiene que esperar. Pero el 95% de las veces funciona. Es por eso que no nos molestamos en construir computadoras con memoria rápida. No podemos permitírnoslo. Obtenga un 95% de eficiencia a una fracción del costo.
Preguntas frecuentes
¿Para qué sirve el caché?
El almacenamiento en caché almacena los datos en una ubicación rápida y temporal para que se puedan recuperar más rápido que acceder al almacenamiento principal. Reduce la latencia y mejora el rendimiento del sistema.
¿Qué es la memoria caché?
El almacenamiento en caché en memoria almacena los datos a los que se accede con frecuencia en ubicaciones reservadas (cachés) a las que se puede acceder más rápido que la RAM principal o el almacenamiento en disco. Esto permite que el procesador obtenga datos sin latencia de la memoria principal.
¿Qué es el almacenamiento en caché y cómo funciona?
El almacenamiento en caché es una técnica que aprovecha la localidad de referencia. Predice qué datos necesitará la CPU a continuación y los almacena en una memoria rápida. Cuando el procesador solicita esta información, la encuentra inmediatamente en el caché en lugar de esperar a que sea entregada desde la memoria principal más lenta.
