Als je de laatste tijd op zoek bent naar een nieuwe laptop, is de kans groot dat je deze term wel eens hebt gehoord. Een vriend of een technisch onderlegd familielid kan u waarschuwen tegen het gebruik van goedkopere Celeron-chips, daarbij verwijzend naar een gebrek aan “cache”. Dit lijkt een klein detail in de specificaties te zijn. dat is het niet.
Wat is een cache? Het is een snelle gegevensopslaglaag die zich tussen de processor en het hoofdgeheugen bevindt. Zonder dit zou het moderne computergebruik kruipen.
Computers gebruiken overal cache. In de processor bevindt zich L1-, L2- en vaak L3-cache. Vervolgens hebben besturingssystemen geheugencaches, paginacaches en schijfcaches. Virtueel geheugen fungeert ook als een soort cache. Versnel taken en verlaag de hardwarekosten. Hoe dit in de praktijk werkt.
Analogie van de bibliothecaris: geen cache
Om de logica te begrijpen, laten we het silicium weghalen en de bibliothecaris gebruiken. Stel je een bibliotheek voor waar je zelf de boeken niet kunt aanraken. Je vroeg de bibliothecaris die naar de achterste opslagruimte rende om het boek te halen.
De eerste klant arriveert. Hij wilde Moby Dick. De bibliothecaris ging de opslagruimte binnen, haalde er een boek uit en overhandigde het aan hem. De klant retourneert het boek later. De bibliothecaris bracht het terug naar de opslagruimte. Hij keerde terug naar zijn bureau en wachtte.
De volgende klant wil Moby Dick weer. De bibliothecaresse moet weer de hele opslagruimte rond. Zelfs voor populaire titels doet hij elke keer hetzelfde inefficiënte werk.
Dit is hoe een cacheloze computer werkt. Gebruikt hoofdgeheugen (opslag) voor elk verzoek, ongeacht de frequentie.
Analogie van de bibliothecaris: cache gebruiken
Geef die bibliothecaris nu een rugzak aan de bibliothecaris. Hij kan maximaal 10 boeken dragen. Deze rugzak is een cache.
Een nieuwe dag is begonnen. De rugzak is leeg. De eerste klant wilde Moby Dick. De bibliothecaresse ging naar de opslagruimte, pakte het boek en overhandigde het. De klant retourneert het boek. In plaats van het terug te brengen naar de opslagruimte, stopt de bibliothecaris het in zijn rugzak. Hij bleef aan zijn bureau zitten.
Er komt nog een klant aan. Ik wil Moby Dick. De bibliothecaresse zoekt eerst naar een rugzak. Het boek is er. Hij overhandigde het onmiddellijk. Geen uitstapje naar de opslagruimte. Klanten krijgen een snellere service.
Dit is een cachehit. Dit product werd gevonden in een snelle opslag.
Cachemissers en latentie
Wat als de klant om een boek vraagt dat niet in de rugzak zit? De bibliothecaris moet eerst naar de tas zoeken. Pas toen besefte hij dat het ontbrak. Toen rende hij naar het magazijn.
Dit is een cachemisser.
Maakt dit de bibliothecaris minder efficiënt? Technisch gezien wel. Hij verspilde tijd door eerst de tas te controleren. Bij computergebruik is deze vertraging echter verwaarloosbaar. Moderne hardware controleert de beschikbaarheid van de cache in nanoseconden. Ter vergelijking: het pad naar “opslag” (hoofdgeheugen) is enorm. De straf voor missen is klein vergeleken met de straf voor het niet cachen.
Belangrijke cachingregels
Vanuit dit eenvoudige model zien we de kernmechanismen.
- Snelheid en grootte: Caches gebruiken sneller, kleiner geheugen om langzamer, groter geheugen te versnellen. Het werkt met besturingssystemen, webservers en hardware.
- Hit and Miss: Controleer eerst de cache. Heb je het gevonden? Hit. Niet gevonden? Miss. Het systeem moet dan de gegevens ophalen uit een grotere, langzamere pool.
- Groottebeperking: Het cachegeheugen is altijd kleiner dan het hoofdgeheugen. Je kunt niet de hele bibliotheek in een rugzak stoppen.
- Meerdere lagen: Deze kunnen worden gestapeld. Onze bibliothecaris zou een plank (grotere caches) en rugzakken (kleinere, snellere caches) achter de toonbank kunnen hebben. Hij controleert de rugzak, vervolgens de planken en vervolgens de opslagruimte. Dit is een cache met meerdere niveaus.
Deze hiërarchie zorgt ervoor dat computers zich wendbaar voelen, zelfs als ze technisch gezien met grote hoeveelheden gegevens moeten omgaan. De gegevens die jij het meest gebruikt, blijven dichtbij de verwerker. De rest wacht op de achtergrond.
Hoe L1-, L2- en L3-caches de CPU-snelheid verbeteren
Tijd is de vijand van computers. Meet de processortijd in nanoseconden. Wanneer de microprocessor toegang krijgt tot het RAM, wacht hij ongeveer 60 nanoseconden. Het voelt erg langzaam. Voor een chip met een korte cyclustijd van 2 nanoseconden is 60 nanoseconden een eeuwigheid.
De oplossing zijn snelheidsklassen. Ingenieurs hebben een speciale geheugenbank op het moederbord gebouwd. Het is klein. Het is snel. Toegang duurt ongeveer 30 nanoseconden. Dit is twee keer zo snel als het hoofdgeheugen. Dit is het tweede niveau of L2-cache.
Dan is er de cache van het eerste niveau of L1. Ze plaatsten dit kleine, snelle geheugen rechtstreeks op de microprocessorchip. Gegevens worden nu overgedragen met de snelheid van de processor zelf in plaats van via de geheugenbus. In een Pentium van 233 MHz is de L1-cache 3,5 keer sneller dan de L2-cache, die twee keer zo snel is als RAM.
Sommige nieuwere chips zijn zelfs nog geavanceerder. Ze hebben twee cachelagen in de siliciumchip ingebed. Wanneer dit gebeurt, wordt de cache van het moederbord naar niveau 3 of L3 geduwd. Het creëert een ladder van snelheid.
Het snelste in een computer is de microprocessor. L1 cachet L2. L2-cache hoofdgeheugen. Het hoofdgeheugen slaat vervolgens langzamere randapparatuur op in de cache, zoals harde schijven en cd-roms. Harde schijven kunnen ook uw internetverbinding in de cache opslaan.
Browsercache: waarom webpagina’s sneller laden
Internettoegang is een knelpunt geworden. Dit is de langzaamste schakel in de keten. Webbrowsers zoals Chrome en Safari zijn zich hiervan bewust. Ze gebruiken uw harde schijf als tijdelijke opslag.
Wanneer u voor de eerste keer een HTML-pagina bezoekt, laadt uw browser de pagina en slaat een kopie op in een specifieke map op uw schijf. Geef de pagina weer. Je ziet het.
De volgende keer dat u op de URL klikt, controleert uw browser het tijdstempel. Vergelijkt de bestandsdatum in de cache op schijf met de datum van de webserver. Als het serverbestand niet nieuw is, slaat de browser de download over. Het dient de lokale kopie.
Een kleiner, sneller geheugensysteem is de harde schijf. Het grotere en langzamere systeem is internet.
Experimenteren met cache op de harde schijf en diskettestations
Caches bevinden zich niet alleen in uw CPU of browser. Het leeft op de randapparatuur. Moderne harde schijven hebben snel geheugen. Meestal rond de 512 KB. De harde schijfcontroller beheert dit geheugen in plaats van dat de computer het rechtstreeks beheert.
Wanneer het systeem gegevens opvraagt, controleert de bestuurder eerst deze interne cache. Dit gebeurt voordat de mechanische kop van de aandrijving wordt verplaatst. Mechanische beweging is langzaam. Toegang tot het geheugen is onmiddellijk. Als de gegevens in de cache zijn opgeslagen, keert de controller onmiddellijk terug. Het hoofd beweegt nooit. U bespaart tijd.
Je kunt het gedrag van deze cache zelf controleren. Probeer een experiment met een diskettestation. Diskettes zijn erg traag.
Open een groot bestand, zoals een tekstbestand van 300 KB. Het diskettelampje gaat branden. Wachten. Het laden duurt ongeveer 20 seconden terwijl de schijf fysiek naar de gegevens zoekt.
Sluit nu de editor. Open hetzelfde bestand onmiddellijk opnieuw. Wacht niet 30 minuten. Vul het geheugen niet met andere taken. Het floppy-lampje gaat niet aan. Het bestand wordt onmiddellijk geladen.
Het besturingssysteem controleert de geheugencache op diskettegegevens. Het heeft het gevonden.
Het verschil is duidelijk. Eén toegang tot een diskette duurt 120 milliseconden. Toegang tot het hoofdgeheugen duurt ongeveer 60 nanoseconden. Dat is een gigantisch snelheidsverschil. Deze test kan op een harde schijf worden uitgevoerd, maar de resultaten zijn niet zo opvallend. De floppy maakt de latentie zichtbaar.
Cachehiërarchie: snelheid en grootte
Om het hele systeem te begrijpen, kijk naar de cijfers.
- L1-cache : cachegeheugen op de volledige snelheid van de microprocessor. De toegangstijd bedraagt ongeveer 10 nanoseconden. De grootte varieert van 4 KB tot 16 KB.
- L2-cache : SRAM-gebaseerde toegang. Het duurt 20-30 nanoseconden. De grootte ligt meestal tussen 128 en 512 KB.
- Hoofdgeheugen : Normaal RAM. Toegang duurt ongeveer 60 nanoseconden. De grootte varieert van 32 MB tot 128 MB.
- HDD : Mechanisch en langzaam. Toegang duurt ongeveer 12 milliseconden. De grootte is van 1 GB tot 10 GB.
- Internet : ongelooflijk traag. De latentie varieert van 1 seconde tot dagen. De grootte is vrijwel onbeperkt.
L1 cachet L2. L2-cache hoofdgeheugen. Hoofdgeheugencacheschijf. De schijf cachet het netwerk.
Dit is een estafetteloop waarbij elke loper sneller is dan de vorige. Gegevens worden echter altijd van de langzamere naar de snellere kant overgedragen. Als de cache ontbreekt, wacht je. Als het klikt, doe je dat niet. De algehele prestaties van de machine worden bepaald door hoe vaak deze tussen snel, klein geheugen en langzame, grote opslag valt.
Stel je een wereld voor waarin elke byte van het RAM-geheugen van je computer net zo snel draait als de L1-cache van je CPU. Dat zou bliksem zijn. Het gaat ook failliet.
Dit is een fundamentele afweging in computerarchitectuur. Je hebt snelheid nodig, maar je moet er ook voor zorgen dat je bankrekening niet verdwijnt als je een nieuwe computer koopt. Caching is het compromis. Gebruik kleine hoeveelheden duur, snel geheugen om grote hoeveelheden goedkoop, langzaam geheugen te versnellen.
Dit is de wiskunde achter de waanzin.
Moderne 500 MHz-chips voltooien 500 miljoen cycli per seconde. Dit is één cyclus elke 2 nanoseconden. Als je CPU moet wachten op RAM, loop je tegen een muur aan. Toegang tot het hoofdgeheugen duurt ongeveer 60 nanoseconden. Dit betekent dat er ongeveer 30 cycli verloren gaan. 30 cycli. Weg. Verspilling treedt op wanneer de processor wacht op gegevens uit langzame opslag.
Zonder L1- en L2-cache zou uw computer het grootste deel van zijn leven inactief blijven, wachtend tot het geheugen zijn achterstand heeft ingehaald.
De magie van een kleine cache
Overweeg een L2-cache van 256 KB die 64 MB RAM beheert. Dit komt grofweg neer op een verhouding van 256.000 bytes cache tot 64.000.000 bytes.
Hoe kan zo’n klein, snel geheugen grote hoeveelheden gegevens verwerken? Het werkt volgens een principe dat referentielocatie wordt genoemd.
Hoewel het academisch klinkt, is het concept intuïtief. In vrij complexe programma’s gebruik je niet alle code tegelijkertijd. Slechts een klein deel wordt hergebruikt. Zelfs als het uitvoerbare bestand 10 megabytes groot is, zijn er slechts een paar honderd bytes per seconde actief. En die specifieke bytes? Ze verschijnen keer op keer.
De CPU hoeft niet elke keer dat dit nodig is code en gegevens uit het trage hoofdgeheugen te halen. Ophalen uit cache. De cache wordt bijna elke keer geraakt omdat dezelfde bits steeds opnieuw worden gebruikt.
Referentieplaats in actie
Laten we eens naar een eenvoudige logische stroom kijken om te zien waarom dit zo is. Stel je een programma voor dat je vraagt een getal tussen 1 en 100 in te voeren.
- Het programma wacht op invoer.
- Sla uw nummer op in variabele X.
- Stel variabele Y in op 100.
- Stel de variabele Z in op 1.
- Lus: Deel Z door X.
- Als de rest nul is, drukt u af: “Z is een veelvoud van X.”
- Het telt 1 op bij Z.
- Herhaal stap 5 totdat Z Y bereikt.
Lijnen 1 t/m 4 worden slechts één keer uitgevoerd. De lus (regels 5 tot en met 8) wordt 100 keer uitgevoerd.
De processor voert herhaaldelijk lusinstructies uit. Deze instructies blijven in de cache opgeslagen, zodat ze op volle snelheid worden uitgevoerd. Hoe zit het met de rest van het programma? Het loopt één keer en verdwijnt dan.
Dit is referentielocatie in gewoon Engels. Ongeveer 95% van de uitvoeringstijd van een programma wordt besteed aan het uitvoeren van een kleine set repetitieve code. Tekstverwerkers doen hetzelfde. Ze besteden 95% van hun tijd aan het wachten tot u typt of het scherm bijwerkt. De code die de interactie afhandelt, wordt in de cache opgeslagen. De overige 5% doet het zware werk: opmaak, spellingcontrole en opslaan.
Door die 5% warm te houden in het snelle geheugen, voelt uw CPU onmiddellijk aan alsof hij werkt. Gebruikers vinden het responsief. Fabrikanten besparen geld doordat ze geen SRAM (Static Random Access Memory) hoeven te gebruiken om 64 MB RAM-modules te bouwen. Het gebruikt DRAM (Dynamic RAM) voor bulk en SRAM voor cache.
Het is geen perfecte balans. Soms ontbreekt de cache en moet de CPU nog wachten. Maar 95% van de tijd werkt het. Dat is de reden waarom we niet de moeite nemen om computers met een snel geheugen te bouwen. Dat kunnen we ons niet veroorloven. Krijg 95% efficiëntie tegen een fractie van de kosten.
Veelgestelde vragen
Wat is het gebruik van cache?
Caching slaat gegevens op een tijdelijke, snelle locatie op, zodat deze sneller kunnen worden opgehaald dan wanneer u toegang krijgt tot de hoofdopslag. Vermindert de latentie en verbetert de systeemprestaties.
Wat is geheugencache?
Bij caching in het geheugen worden veelgebruikte gegevens opgeslagen op gereserveerde locaties (caches) die sneller toegankelijk zijn dan het hoofd-RAM of de schijfopslag. Hierdoor kan de processor gegevens ophalen zonder latentie in het hoofdgeheugen.
Wat is caching en hoe werkt het?
Caching is een techniek die gebruik maakt van de referentielocatie. Het voorspelt welke gegevens de CPU vervolgens nodig heeft en slaat deze op in snel geheugen. Wanneer de processor deze informatie opvraagt, vindt hij deze onmiddellijk in de cache in plaats van te wachten tot deze uit het langzamere hoofdgeheugen wordt afgeleverd.





















