Wenn Sie in letzter Zeit über den Kauf eines neuen Laptops nachgedacht haben, ist es wahrscheinlich, dass Sie diesen Begriff schon einmal gehört haben. Ein Freund oder ein technisch versierter Verwandter könnte Sie mit dem Hinweis auf fehlenden „Cache“ vor der Verwendung billigerer Celeron-Chips warnen. Dies scheint ein kleines Detail in den Spezifikationen zu sein. das ist es nicht.
Was ist ein Cache? Dabei handelt es sich um eine Hochgeschwindigkeits-Datenspeicherschicht, die zwischen dem Prozessor und dem Hauptspeicher liegt. Ohne sie würde die moderne Datenverarbeitung nur langsam voranschreiten.
Computer verwenden überall Cache. Im Inneren des Prozessors befindet sich L1-, L2- und oft auch L3-Cache. Als nächstes verfügen Betriebssysteme über Speicher-Caches, Seiten-Caches und Festplatten-Caches. Der virtuelle Speicher fungiert auch als eine Art Cache. Beschleunigen Sie Aufgaben und senken Sie die Hardwarekosten. Wie das in der Praxis funktioniert.
Bibliothekar-Analogie: kein Cache
Um die Logik zu verstehen, entfernen wir das Silizium und verwenden den Bibliothekar. Stellen Sie sich eine Bibliothek vor, in der Sie die Bücher nicht selbst anfassen dürfen. Sie haben den Bibliothekar gebeten, der in den hinteren Lagerraum gelaufen ist, um das Buch zu holen.
Der erste Kunde kommt. Er wollte Moby Dick. Der Bibliothekar ging in den Lagerraum, holte ein Buch heraus und reichte es ihm. Der Kunde gibt das Buch später zurück. Der Bibliothekar brachte es zurück in den Lagerraum. Er kehrte zu seinem Schreibtisch zurück und wartete.
Der nächste Kunde will wieder Moby Dick. Der Bibliothekar muss noch einmal den gesamten Lagerraum umrunden. Selbst bei beliebten Titeln erledigt er jedes Mal die gleiche ineffiziente Arbeit.
So funktioniert ein Cache-loser Computer. Verwendet den Hauptspeicher (Speicher) für jede Anfrage, unabhängig von der Häufigkeit.
Bibliothekar-Analogie: Cache verwenden
Geben Sie dem Bibliothekar nun einen Rucksack. Er kann bis zu 10 Bücher tragen. Dieser Rucksack ist ein Cache.
Ein neuer Tag hat begonnen. Der Rucksack ist leer. Der erste Kunde wollte Moby Dick. Der Bibliothekar ging in den Lagerraum, nahm das Buch und übergab es. Der Kunde gibt das Buch zurück. Anstatt es zurück in den Lagerraum zu bringen, steckt der Bibliothekar es in seinen Rucksack. Er blieb an seinem Schreibtisch sitzen.
Ein weiterer Kunde kommt. Ich will Moby Dick. Der Bibliothekar sucht zunächst nach einem Rucksack. Das Buch ist da. Er hat es sofort übergeben. Kein Gang in den Lagerraum. Kunden erhalten einen schnelleren Service.
Das ist ein Cache-Hit. Dieses Produkt wurde im Schnelllager gefunden.
Cache-Fehler und Latenz
Was ist, wenn der Kunde nach einem Buch fragt, das nicht im Rucksack ist? Der Bibliothekar muss zunächst nach der Tasche suchen. Erst dann wurde ihm klar, dass es fehlte. Dann rannte er zum Lagerhaus.
Dies ist ein Cache-Fehler.
Ist der Bibliothekar dadurch weniger effizient? Technisch gesehen ja. Er verschwendete Zeit damit, zuerst die Tasche zu überprüfen. Beim Rechnen ist diese Verzögerung jedoch vernachlässigbar. Moderne Hardware prüft die Cache-Verfügbarkeit in Nanosekunden. Im Vergleich dazu ist der Weg zum „Speicher“ (Hauptspeicher) riesig. Die Strafe für das Fehlen ist gering im Vergleich zur Strafe für das Nicht-Caching.
Wichtige Caching-Regeln
Anhand dieses einfachen Modells erkennen wir die Kernmechanik.
- Geschwindigkeit und Größe: Caches nutzen schnelleren, kleineren Speicher, um langsameren, größeren Speicher zu beschleunigen. Es funktioniert mit Betriebssystemen, Webservern und Hardware.
- Hit and Miss: Überprüfen Sie zuerst den Cache. Hast du es gefunden? Schlag. Nicht gefunden? Miss. Das System muss die Daten dann aus einem größeren, langsameren Pool abrufen.
- Größenbeschränkung: Der Cache-Speicher ist immer kleiner als der Hauptspeicher. Man kann nicht die ganze Bibliothek in einen Rucksack packen.
- Mehrere Ebenen: Diese können gestapelt werden. Unser Bibliothekar könnte ein Regal (größere Caches) und Rucksäcke (kleinere, schnellere Caches) hinter der Theke haben. Er überprüft den Rucksack, dann die Regale, dann den Lagerraum. Dies ist ein mehrstufiger Cache.
Durch diese Hierarchie fühlen sich Computer wendig an, selbst wenn es um die technische Verarbeitung großer Datenmengen geht. Die Daten, die Sie am häufigsten verwenden, bleiben in der Nähe des Prozessors. Der Rest wartet im Hintergrund.
Wie L1-, L2- und L3-Caches die CPU-Geschwindigkeit verbessern
Zeit ist der Feind des Rechnens. Misst die Prozessorzeit in Nanosekunden. Wenn der Mikroprozessor auf den RAM zugreift, wartet er etwa 60 Nanosekunden. Es fühlt sich sehr langsam an. Für einen Chip mit einer kurzen Zykluszeit von 2 Nanosekunden sind 60 Nanosekunden eine Ewigkeit.
Die Lösung sind Geschwindigkeitsklassen. Ingenieure haben auf dem Motherboard eine spezielle Speicherbank eingebaut. Es ist klein. Es ist schnell. Der Zugriff dauert etwa 30 Nanosekunden. Das ist doppelt so schnell wie der Hauptspeicher. Dies ist der Second-Level- oder L2-Cache.
Dann gibt es noch den First-Level-Cache oder L1. Sie platzieren diesen kleinen Hochgeschwindigkeitsspeicher direkt auf dem Mikroprozessorchip. Die Datenübertragung erfolgt nun mit der Geschwindigkeit des Prozessors selbst statt mit der Geschwindigkeit des Speicherbusses. Bei einem Pentium mit 233 MHz ist der L1-Cache 3,5-mal schneller als der L2-Cache, der doppelt so schnell wie der RAM ist.
Einige neuere Chips sind sogar noch fortschrittlicher. Sie haben zwei Cache-Schichten in den Siliziumchip eingebettet. In diesem Fall wird der Motherboard-Cache auf Level 3 oder L3 verschoben. Es entsteht eine Geschwindigkeitsleiter.
Das schnellste Ding in einem Computer ist der Mikroprozessor. L1 speichert L2 zwischen. L2-Cache-Hauptspeicher. Der Hauptspeicher speichert dann langsamere Peripheriegeräte wie Festplatten und CD-ROMs im Cache. Festplatten können auch Ihre Internetverbindung zwischenspeichern.
Browser-Cache: Warum Webseiten schneller geladen werden
Der Internetzugang ist zum Engpass geworden. Dies ist das langsamste Glied in der Kette. Webbrowser wie Chrome und Safari sind sich dessen bewusst. Sie nutzen Ihre Festplatte als temporären Speicher.
Wenn Sie zum ersten Mal auf eine HTML-Seite zugreifen, lädt Ihr Browser die Seite und speichert eine Kopie in einem bestimmten Ordner auf Ihrer Festplatte. Rendern Sie die Seite. Du siehst es.
Wenn Sie das nächste Mal auf die URL klicken, überprüft Ihr Browser den Zeitstempel. Vergleicht das Datum der zwischengespeicherten Datei auf der Festplatte mit dem Datum des Webservers. Wenn die Serverdatei nicht neu ist, überspringt der Browser den Download. Es dient der lokalen Kopie.
Ein kleineres, schnelleres Speichersystem ist die Festplatte. Das größere und langsamere System ist das Internet.
Experimentieren mit Festplatten-Cache und Diskettenlaufwerken
Caches befinden sich nicht nur in Ihrer CPU oder Ihrem Browser. Es lebt von der Peripherie. Moderne Festplatten verfügen über einen schnellen Speicher. Normalerweise etwa 512 KB. Der Festplattencontroller verwaltet diesen Speicher und nicht der Computer direkt.
Wenn das System Daten anfordert, überprüft der Treiber zunächst diesen internen Cache. Dies geschieht vor dem Bewegen des mechanischen Kopfes des Laufwerks. Die mechanische Bewegung ist langsam. Der Zugriff auf den Speicher erfolgt sofort. Wenn die Daten zwischengespeichert werden, kehrt der Controller sofort zurück. Der Kopf bewegt sich nie. Sie sparen Zeit.
Sie können das Verhalten dieses Caches selbst überprüfen. Versuchen Sie ein Experiment mit einem Diskettenlaufwerk. Disketten sind sehr langsam.
Öffnen Sie eine große Datei, beispielsweise eine 300-KB-Textdatei. Die Diskettenleuchte schaltet sich ein. Warten. Das Laden dauert etwa 20 Sekunden, während das Laufwerk physisch nach den Daten sucht.
Schließen Sie nun den Editor. Öffnen Sie die gleiche Datei sofort erneut. Warten Sie nicht 30 Minuten. Füllen Sie den Speicher nicht mit anderen Aufgaben. Das Floppy-Licht geht nicht an. Die Datei wird sofort geladen.
Das Betriebssystem überprüft den Speichercache auf Diskettendaten. Es hat es gefunden.
Der Unterschied ist offensichtlich. Ein Zugriff auf eine Diskette dauert 120 Millisekunden. Der Zugriff auf den Hauptspeicher dauert etwa 60 Nanosekunden. Das ist ein gewaltiger Geschwindigkeitsunterschied. Dieser Test kann auf einer Festplatte durchgeführt werden, die Ergebnisse sind jedoch nicht so auffällig. Die Diskette macht die Latenz sichtbar.
Cache-Hierarchie: Geschwindigkeit und Größe
Um das gesamte System zu verstehen, schauen Sie sich die Zahlen an.
- L1-Cache : Cache-Speicher mit voller Geschwindigkeit des Mikroprozessors. Die Zugriffszeit beträgt etwa 10 Nanosekunden. Die Größe variiert zwischen 4 KB und 16 KB.
- L2-Cache : SRAM-basierter Zugriff. Es dauert 20-30 Nanosekunden. Die Größe liegt normalerweise zwischen 128 und 512 KB.
- Hauptspeicher : Normaler RAM. Der Zugriff dauert etwa 60 Nanosekunden. Die Größe variiert zwischen 32 MB und 128 MB.
- HDD : Mechanisch und langsam. Der Zugriff dauert etwa 12 Millisekunden. Die Größe reicht von 1 GB bis 10 GB.
- Internet : Unglaublich langsam. Die Latenz reicht von 1 Sekunde bis zu Tagen. Die Größe ist praktisch unbegrenzt.
L1 speichert L2 zwischen. L2-Cache-Hauptspeicher. Hauptspeicher-Cache-Festplatte. Die Festplatte speichert das Netzwerk im Cache.
Dies ist ein Staffellauf, bei dem jeder Läufer schneller ist als der letzte. Daten werden jedoch immer von der langsameren Seite zur schnelleren Seite übertragen. Wenn der Cache fehlt, warten Sie. Wenn es trifft, tun Sie es nicht. Die Gesamtleistung der Maschine wird dadurch bestimmt, wie oft sie zwischen schnellem, kleinem Speicher und langsamem, großem Speicher wechselt.
Stellen Sie sich eine Welt vor, in der jedes Byte des Arbeitsspeichers Ihres Computers so schnell lief wie der L1-Cache Ihrer CPU. Das wäre ein Blitz. Es geht auch bankrott.
Dies ist ein grundlegender Kompromiss in der Computerarchitektur. Sie brauchen Geschwindigkeit, müssen aber auch darauf achten, dass Ihr Bankkonto nicht verschwindet, wenn Sie einen neuen Computer kaufen. Caching ist der Kompromiss. Verwenden Sie kleine Mengen teuren, schnellen Speichers, um große Mengen billigen, langsamen Speichers zu beschleunigen.
Das ist die Mathematik hinter dem Wahnsinn.
Moderne 500-MHz-Chips durchlaufen 500 Millionen Zyklen pro Sekunde. Dies ist ein Zyklus alle 2 Nanosekunden. Wenn Ihre CPU auf RAM warten muss, stoßen Sie an eine Wand. Der Zugriff auf den Hauptspeicher dauert etwa 60 Nanosekunden. Das sind etwa 30 verschwendete Zyklen. 30 Zyklen. Gegangen. Verschwendung entsteht, wenn der Prozessor darauf wartet, dass Daten aus einem langsamen Speicher eintreffen.
Ohne L1- und L2-Cache würde Ihr Computer die meiste Zeit seines Lebens im Leerlauf bleiben und darauf warten, dass der Speicher aufholt.
Die Magie eines kleinen Caches
Stellen Sie sich einen 256-KB-L2-Cache vor, der 64 MB RAM verwaltet. Dies entspricht in etwa einem Verhältnis von 256.000 Byte Cache zu 64.000.000 Byte.
Wie kann ein so kleiner, schneller Speicher große Datenmengen verwalten? Es funktioniert nach einem Prinzip namens Referenzlokalität.
Obwohl es akademisch klingt, ist das Konzept intuitiv. In relativ komplexen Programmen verwenden Sie nicht den gesamten Code gleichzeitig. Nur ein kleiner Teil wird wiederverwendet. Selbst wenn die ausführbare Datei 10 Megabyte groß ist, sind nur wenige hundert Byte pro Sekunde aktiv. Und diese spezifischen Bytes? Sie tauchen immer wieder auf.
Die CPU muss nicht jedes Mal Code und Daten aus dem langsamen Hauptspeicher holen, wenn sie benötigt werden. Aus Cache abrufen. Der Cache wird fast jedes Mal angegriffen, da immer wieder dieselben Bits wiederverwendet werden.
Ort der Referenz in Aktion
Schauen wir uns einen einfachen logischen Ablauf an, um zu sehen, warum das so ist. Stellen Sie sich ein Programm vor, das Sie auffordert, eine Zahl zwischen 1 und 100 einzugeben.
- Das Programm wartet auf Eingaben.
- Speichern Sie Ihre Nummer in der Variablen X.
- Setzen Sie die Variable Y auf 100.
- Setzen Sie die Variable Z auf 1.
- Schleife: Dividiere Z durch X.
- Wenn der Rest Null ist, geben Sie „Z ist ein Vielfaches von X“ aus.
- Es addiert 1 zu Z.
- Wiederholen Sie Schritt 5, bis Z Y erreicht.
Die Zeilen 1 bis 4 werden nur einmal ausgeführt. Die Schleife (Zeilen 5 bis 8) läuft 100 Mal.
Der Prozessor führt Schleifenanweisungen wiederholt aus. Diese Anweisungen bleiben zwischengespeichert, sodass sie mit voller Geschwindigkeit ausgeführt werden können. Wie sieht es mit dem Rest des Programms aus? Es läuft einmal und verschwindet dann.
Dies ist Referenzort im Klartext. Ungefähr 95 % der Ausführungszeit eines Programms werden für die Ausführung einer kleinen Menge sich wiederholenden Codes aufgewendet. Textverarbeitungsprogramme machen dasselbe. Sie verbringen 95 % ihrer Zeit damit, darauf zu warten, dass Sie etwas eingeben oder den Bildschirm aktualisieren. Der Code, der die Interaktion abwickelt, wird zwischengespeichert. Die restlichen 5 % erledigen die schwere Arbeit: Formatierung, Rechtschreibprüfung und Speichern.
Indem Sie diese 5 % im schnellen Speicher heiß halten, wird Ihre CPU das Gefühl haben, sofort zu arbeiten. Benutzer finden es reaktionsschnell. Hersteller sparen Geld, da sie beim Bau von 64-MB-RAM-Modulen nicht auf SRAM (Static Random Access Memory) zurückgreifen müssen. Es verwendet DRAM (Dynamic RAM) für Bulk und SRAM für Cache.
Es ist keine perfekte Balance. Manchmal fehlt der Cache und die CPU muss noch warten. Aber in 95 % der Fälle funktioniert es. Deshalb machen wir uns nicht die Mühe, Computer mit schnellem Speicher zu bauen. Das können wir uns nicht leisten. Erhalten Sie eine Effizienz von 95 % zu einem Bruchteil der Kosten.
Häufig gestellte Fragen
Wozu dient der Cache?
Beim Caching werden Daten an einem temporären, schnellen Ort gespeichert, sodass sie schneller abgerufen werden können als beim Zugriff auf den Hauptspeicher. Reduziert die Latenz und verbessert die Systemleistung.
Was ist Speichercache?
Beim In-Memory-Caching werden häufig aufgerufene Daten an reservierten Orten (Caches) gespeichert, auf die schneller zugegriffen werden kann als auf den Haupt-RAM oder den Festplattenspeicher. Dadurch kann der Prozessor Daten ohne Hauptspeicherlatenz abrufen.
Was ist Caching und wie funktioniert es?
Caching ist eine Technik, die sich die Lokalität von Referenzen zunutze macht. Es sagt voraus, welche Daten die CPU als nächstes benötigt und speichert sie im schnellen Speicher. Wenn der Prozessor diese Informationen anfordert, findet er sie sofort im Cache, anstatt darauf zu warten, dass sie vom langsameren Hauptspeicher geliefert werden.
