Cos’è la cache e perché ne hai bisogno sul tuo computer?

20

Se ultimamente stai cercando di acquistare un nuovo laptop, è probabile che tu abbia sentito questo termine. Un amico o un parente esperto di tecnologia potrebbe metterti in guardia dall’utilizzare chip Celeron più economici, citando la mancanza di “cache”. Questo sembra essere un piccolo dettaglio nelle specifiche. non lo è.

Cos’è una cache? È uno strato di archiviazione dati ad alta velocità situato tra il processore e la memoria principale. Senza di esso, l’informatica moderna si muoverebbe lentamente.

I computer utilizzano la cache ovunque. All’interno del processore è presente la cache L1, L2 e spesso L3. Successivamente, i sistemi operativi dispongono di cache di memoria, cache di pagine e cache di disco. La memoria virtuale funge anche da sorta di cache. Velocizza le attività e riduci i costi dell’hardware. Come funziona in pratica.

Analogia con il bibliotecario: nessuna cache

Per comprendere la logica, togliamo il silicio e utilizziamo il bibliotecario. Immagina una biblioteca dove non puoi toccare i libri da solo. hai chiesto al bibliotecario che è corso nel ripostiglio sul retro per prendere il libro.

Arriva il primo cliente. Voleva Moby Dick. Il bibliotecario andò nel ripostiglio, tirò fuori un libro e glielo porse. Il cliente restituisce il libro più tardi. Il bibliotecario lo riportò nel magazzino. Tornò alla scrivania e attese.

Il prossimo cliente vuole di nuovo Moby Dick. Il bibliotecario deve fare di nuovo il giro dell’intero magazzino. Anche per i titoli popolari, fa ogni volta lo stesso lavoro inefficiente.

Ecco come funziona un computer senza cache. Utilizza la memoria principale (storage) per ogni richiesta indipendentemente dalla frequenza.

Analogia con il bibliotecario: usare la cache

Ora dai a quel bibliotecario uno zaino al bibliotecario. Può trasportare fino a 10 libri. Questo zaino è un nascondiglio.

Un nuovo giorno è iniziato. Lo zaino è vuoto. Il primo cliente voleva Moby Dick. Il bibliotecario andò nel magazzino, prese il libro e lo consegnò. Il cliente restituisce il libro. Invece di riportarlo nel magazzino, il bibliotecario lo mette nello zaino. Rimase seduto alla scrivania.

Arriva un altro cliente. Voglio Moby Dick. Il bibliotecario cerca prima uno zaino. Il libro è lì. Lo consegnò immediatamente. Nessun viaggio al magazzino. I clienti ottengono un servizio più rapido.

Questo è un successo nella cache. Questo prodotto è stato trovato in archivio veloce.

Errori di cache e latenza

Cosa succede se il cliente chiede un libro che non è nello zaino? Il bibliotecario deve prima cercare la borsa. Solo allora si accorse che mancava. Poi corse al magazzino.

Questa è una mancanza di cache.

Questo rende il bibliotecario meno efficiente? Tecnicamente sì. Prima ha perso tempo a controllare la borsa. In informatica, tuttavia, questo ritardo è trascurabile. L’hardware moderno verifica la disponibilità della cache in nanosecondi. In confronto, il percorso verso lo “storage” (memoria principale) è enorme. La penalità per la mancanza è piccola rispetto alla penalità per la mancata memorizzazione nella cache.

Importanti regole di memorizzazione nella cache

Da questo semplice modello vediamo i meccanismi principali.

  • Velocità e dimensioni: le cache utilizzano una memoria più veloce e più piccola per velocizzare la memoria più lenta e più grande. Funziona con sistemi operativi, server web e hardware.
  • Incostante: controlla prima la cache. L’hai trovato? Colpo. Non trovato? Miss. Il sistema deve quindi recuperare i dati da un pool più grande e più lento.
  • Limitazione delle dimensioni: La memoria cache è sempre più piccola della memoria principale. Non puoi mettere tutta la biblioteca in uno zaino.
  • Strati multipli: possono essere impilati. Il nostro bibliotecario potrebbe avere uno scaffale (cache più grandi) e zaini (cache più piccole e più veloci) dietro il bancone. Controlla lo zaino, poi gli scaffali, poi il ripostiglio. Questa è una cache multilivello.

Questa gerarchia rende i computer agili, anche quando tecnicamente si destreggiano con grandi quantità di dati. I dati che utilizzi maggiormente rimangono vicino al processore. Gli altri aspettano in sottofondo.

Come le cache L1, L2 e L3 migliorano la velocità della CPU

Il tempo è nemico dell’informatica. Misura il tempo del processore in nanosecondi. Quando il microprocessore accede alla RAM, attende circa 60 nanosecondi. Sembra molto lento. Per un chip con un tempo di ciclo breve di 2 nanosecondi, 60 nanosecondi sono un’eternità.

La soluzione sono le classi di velocità. Gli ingegneri hanno costruito uno speciale banco di memoria sulla scheda madre. È piccolo. È veloce. L’accesso richiede circa 30 nanosecondi. Questo è due volte più veloce della memoria principale. Questa è la cache di secondo livello o L2.

Poi c’è la cache di primo livello o L1. Hanno inserito questa piccola memoria ad alta velocità direttamente sul chip del microprocessore. I dati vengono ora trasferiti alla velocità del processore stesso invece che del bus di memoria. In un Pentium a 233 MHz, la cache L1 è 3,5 volte più veloce della cache L2, che è due volte più veloce della RAM.

Alcuni chip più recenti sono ancora più avanzati. Hanno incorporato due strati di cache all’interno del die di silicio. Quando ciò accade, la cache della scheda madre viene spinta al livello 3 o L3. Crea una scala di velocità.

La cosa più veloce in un computer è il microprocessore. L1 memorizza nella cache L2. Memoria principale della cache L2. La memoria principale memorizza quindi nella cache le periferiche più lente come dischi rigidi e CD-ROM. I dischi rigidi possono anche memorizzare nella cache la connessione Internet.

Cache del browser: perché le pagine web si caricano più velocemente

L’accesso a Internet è diventato un collo di bottiglia. Questo è l’anello più lento della catena. I browser Web come Chrome e Safari ne sono consapevoli. Usano il tuo disco rigido come memoria temporanea.

Quando accedi per la prima volta ad una pagina HTML, il tuo browser carica la pagina e ne salva una copia in una cartella specifica sul tuo disco. Visualizza la pagina. Lo vedi.

La prossima volta che farai clic sull’URL, il browser controllerà il timestamp. Confronta la data del file memorizzato nella cache sul disco con la data del server Web. Se il file del server non è nuovo, il browser salterà il download. Serve la copia locale.

Un sistema di memoria più piccolo e più veloce è il disco rigido. Il sistema più grande e più lento è Internet.

Sperimentazione con la cache del disco rigido e le unità floppy

Le cache non sono solo nella CPU o nel browser. Vive nelle periferie. I moderni dischi rigidi hanno una memoria veloce. In genere circa 512 KB. Il controller del disco rigido gestisce questa memoria anziché il computer che la gestisce direttamente.

Quando il sistema richiede dati, il conducente controlla prima questa cache interna. Questa operazione viene eseguita prima di spostare la testa meccanica dell’azionamento. Il movimento meccanico è lento. L’accesso alla memoria è immediato. Se i dati vengono memorizzati nella cache, il controller ritorna immediatamente. La testa non si muove mai. Risparmia tempo.

Puoi verificare tu stesso il comportamento di questa cache. Prova un esperimento con un’unità floppy. I floppy disk sono molto lenti.

Apri un file di grandi dimensioni, ad esempio un file di testo da 300 KB. La spia del floppy disk si accende. Aspettare. Il caricamento richiede circa 20 secondi mentre l’unità cerca fisicamente i dati.

Ora chiudi l’editor. Apri di nuovo immediatamente lo stesso file. Non aspettare 30 minuti. Non riempire la memoria con altre attività. La luce del floppy non si accende. Il file viene caricato immediatamente.

Il sistema operativo controlla la cache della memoria per i dati floppy. L’ha trovato.

La differenza è ovvia. Un accesso ad un dischetto dura 120 millisecondi. L’accesso alla memoria principale richiede circa 60 nanosecondi. Questo è un enorme divario in termini di velocità. Questo test può essere eseguito su un disco rigido, ma i risultati non sono così evidenti. Il floppy rende visibile la latenza.

Gerarchia della cache: velocità e dimensione

Per comprendere l’intero sistema, guarda i numeri.

  • Cache L1 : memoria cache alla massima velocità del microprocessore. Il tempo di accesso è di circa 10 nanosecondi. La dimensione varia da 4 KB a 16 KB.
  • Cache L2 : accesso basato su SRAM. Ci vogliono 20-30 nanosecondi. La dimensione è solitamente compresa tra 128 e 512 KB.
  • Memoria principale : RAM normale. L’accesso richiede circa 60 nanosecondi. La dimensione varia da 32 MB a 128 MB.
  • HDD : meccanico e lento. L’accesso richiede circa 12 millisecondi. La dimensione va da 1 GB a 10 GB.
  • Internet : incredibilmente lento. La latenza varia da 1 secondo a giorni. La dimensione è praticamente illimitata.

L1 memorizza nella cache L2. Memoria principale della cache L2. Disco cache della memoria principale. Il disco memorizza nella cache la rete.

Questa è una staffetta in cui ogni corridore è più veloce del precedente. Tuttavia, i dati vengono sempre trasferiti dal lato più lento a quello più veloce. Se la cache fallisce, aspetti. Se colpisce, non lo fai. Le prestazioni complessive della macchina sono determinate dalla frequenza con cui si colloca tra memoria veloce e piccola e memoria lenta e grande.

Immagina un mondo in cui ogni byte della RAM del tuo computer funziona alla stessa velocità della cache L1 della tua CPU. Sarebbe un fulmine. Anche quello sta andando in bancarotta.

Questo è un compromesso fondamentale nell’architettura del computer. Hai bisogno di velocità, ma devi anche assicurarti che il tuo conto bancario non scompaia quando acquisti un nuovo computer. La memorizzazione nella cache è il compromesso. Utilizzare piccole quantità di memoria costosa e veloce per velocizzare grandi quantità di memoria economica e lenta.

Questa è la matematica dietro la follia.

I moderni chip da 500 MHz completano 500 milioni di cicli al secondo. Questo è un ciclo ogni 2 nanosecondi. Se la tua CPU deve attendere la RAM, ti ritroverai contro un muro. L’accesso alla memoria principale richiede circa 60 nanosecondi. Si tratta di circa 30 cicli sprecati. 30 cicli. Andato. Gli sprechi si verificano quando il processore attende che i dati arrivino da uno storage lento.

Senza la cache L1 e L2, il tuo computer resterebbe inattivo per gran parte della sua vita, in attesa che la memoria si riprenda.

La magia di una piccola cache

Considera una cache L2 da 256 KB che gestisce 64 MB di RAM. Ciò equivale all’incirca a un rapporto tra 256.000 byte di cache e 64.000.000 di byte.

Come può una memoria così piccola e veloce gestire grandi quantità di dati? Funziona secondo un principio chiamato località di riferimento.

Anche se sembra accademico, il concetto è intuitivo. Nei programmi abbastanza complessi, non utilizzerai tutto il codice contemporaneamente. Solo una piccola parte viene riutilizzata. Anche se il file eseguibile ha una dimensione di 10 megabyte, sono attive solo poche centinaia di byte al secondo. E quei byte specifici? Appaiono ancora e ancora.

La CPU non deve recuperare codice e dati dalla memoria principale lenta ogni volta che è necessario. Recupera dalla cache. La cache viene colpita quasi ogni volta perché gli stessi bit continuano a essere riutilizzati.

Località di riferimento in azione

Diamo un’occhiata a un semplice flusso logico per capire perché è così. Immagina un programma che ti chiede di inserire un numero compreso tra 1 e 100.

  1. Il programma è in attesa di input.
  2. Memorizza il tuo numero nella variabile X.
  3. Imposta la variabile Y su 100.
  4. Imposta la variabile Z su 1.
  5. Loop: Dividi Z per X.
  6. Se il resto è zero, stampa “Z è un multiplo di X.”
  7. Aggiunge 1 a Z.
  8. Ripetere il passaggio 5 finché Z non raggiunge Y.

Le righe da 1 a 4 vengono eseguite una sola volta. Il ciclo (righe da 5 a 8) viene eseguito 100 volte.

Il processore esegue ripetutamente le istruzioni del ciclo. Queste istruzioni rimangono memorizzate nella cache in modo che vengano eseguite alla massima velocità. E il resto del programma? Funziona una volta e poi scompare.

Questa è la località di riferimento in un inglese semplice. Circa il 95% del tempo di esecuzione di un programma viene impiegato eseguendo un piccolo insieme di codice ripetitivo. Gli elaboratori di testi fanno la stessa cosa. Trascorrono il 95% del loro tempo aspettando che tu digiti o aggiorni lo schermo. Il codice che gestisce l’interazione viene memorizzato nella cache. Il restante 5% si occupa del lavoro pesante: formattazione, controllo ortografico e salvataggio.

Mantenendo caldo quel 5% nella memoria veloce, la tua CPU sembrerà funzionare immediatamente. Gli utenti lo trovano reattivo. I produttori risparmiano denaro non dovendo utilizzare SRAM (Static Random Access Memory) per costruire moduli RAM da 64 MB. Utilizza DRAM (RAM dinamica) per il bulk e SRAM per la cache.

Non è un equilibrio perfetto. A volte la cache fallisce e la CPU deve ancora attendere. Ma il 95% delle volte funziona. Ecco perché non ci preoccupiamo di costruire computer con memoria veloce, non possiamo permettercelo. Ottieni un’efficienza del 95% a una frazione del costo.

Domande frequenti

A cosa serve la cache?
La memorizzazione nella cache archivia i dati in una posizione temporanea e veloce in modo che possano essere recuperati più velocemente rispetto all’accesso alla memoria principale. Riduce la latenza e migliora le prestazioni del sistema.

Cos’è la cache di memoria?
La memorizzazione nella cache in memoria archivia i dati a cui si accede di frequente in posizioni riservate (cache) a cui è possibile accedere più velocemente della RAM principale o dell’archiviazione su disco. Ciò consente al processore di recuperare i dati senza latenza della memoria principale.

Cos’è la memorizzazione nella cache e come funziona?
Il caching è una tecnica che sfrutta la località di riferimento. Prevede quali dati saranno necessari successivamente alla CPU e li archivia nella memoria veloce. Quando il processore richiede queste informazioni, le trova immediatamente nella cache invece di aspettare che vengano consegnate dalla memoria principale più lenta.

Informazioni dettagliate

Попередня статтяImpostazioni, compatibilità e risorse della community di MuseScore 4
Наступна статтяFacebook 居文迪姆 Boutonu 库兰姆 Rehberg