Jeśli ostatnio zastanawiałeś się nad zakupem nowego laptopa, prawdopodobnie słyszałeś to określenie. Przyjaciel lub znający się na technologii krewny mógł Cię ostrzec przed używaniem tańszych procesorów Celeron, powołując się na brak pamięci podręcznej. Wydaje się, że jest to mały szczegół w specyfikacji, ale tak nie jest.
Co to jest pamięć podręczna? Jest to warstwa szybkiego przechowywania danych zlokalizowana pomiędzy procesorem a pamięcią główną. Bez niego współczesne komputery byłyby niezwykle powolne.
Pamięć podręczna jest używana wszędzie w komputerach. Wewnątrz procesora znajdują się pamięci podręczne L1, L2 i często L3. Następnie systemy operacyjne korzystają z pamięci podręcznej, pamięci podręcznej stron i pamięci podręcznej dysku. Pamięć wirtualna pełni także rolę swego rodzaju pamięci podręcznej. Przyspiesza to realizację zadań i zmniejsza koszty sprzętu. Jak to działa w praktyce.
Analogia do bibliotekarza: brak pamięci podręcznej
Aby zrozumieć logikę, odrzućmy krzem i skorzystajmy z wizerunku bibliotekarza. Wyobraź sobie bibliotekę, w której nie możesz samodzielnie dotykać książek. Pytasz bibliotekarza, który biegnie do magazynu na tyłach po książkę.
Przychodzi pierwszy klient. Potrzebuje książki Moby Dick. Bibliotekarz wchodzi do repozytorium, bierze książkę i podaje ją klientowi. Klient później zwraca książkę. Bibliotekarz zabiera go z powrotem do skarbca. Wraca do biurka i czeka.
Następny klient znów chce Moby Dicka. Bibliotekarz musi ponownie przejść przez całe repozytorium. Nawet w przypadku popularnych tytułów za każdym razem wykonuje tę samą nieefektywną pracę.
Tak działa komputer bez pamięci podręcznej. Każde żądanie wykorzystuje pamięć główną (pamięć), niezależnie od częstotliwości żądań.
Analogia bibliotekarza: korzystanie z pamięci podręcznej
Teraz daj temu samemu bibliotekarzowi plecak. Może pomieścić do 10 książek. Ten plecak to skrytka.
Zaczął się nowy dzień. Plecak jest pusty. Pierwszy klient chciał Moby Dick. Bibliotekarz wszedł do magazynu, wziął książkę i podał ją. Klient zwraca książkę. Zamiast zabrać go z powrotem do skarbca, bibliotekarz wkłada go do plecaka. Nadal siedzi przy biurku.
Przychodzi kolejny klient. Potrzebuje Moby Dicka. Bibliotekarz najpierw zagląda do plecaka. Książka jest tam. Natychmiast go przekazuje. Żadnych wycieczek do magazynu. Klienci otrzymują szybszą obsługę.
Nazywa się to trafieniem w pamięć podręczną. Ten produkt został znaleziony w szybkim magazynie.
Braki w pamięci podręcznej i opóźnienia
A co jeśli klient poprosi o książkę, której nie ma w plecaku? Bibliotekarz musi najpierw sprawdzić plecak. Dopiero wtedy zdaje sobie sprawę, że książki tam nie ma. Następnie biegnie do magazynu.
Nazywa się to pominięciem pamięci podręcznej.
Czy to sprawia, że bibliotekarz jest mniej efektywny? Technicznie tak. Poświęcił czas na sprawdzenie swojego plecaka. Jednak w obliczeniach opóźnienie to jest pomijalne. Nowoczesny sprzęt sprawdza obecność danych w pamięci podręcznej w ciągu nanosekund. W porównaniu do ścieżki do „pamięci” (pamięci głównej) jest ona ogromna. Kara za spudłowanie jest niewielka w porównaniu z karą za niezapisanie w pamięci podręcznej.
Ważne zasady buforowania
Z tego prostego modelu możemy zobaczyć podstawowe mechanizmy.
- Szybkość i rozmiar: Pamięci podręczne wykorzystują szybszą, mniejszą pamięć, aby przyspieszyć wolniejszą, większą pamięć. Współpracuje z systemami operacyjnymi, serwerami internetowymi i sprzętem.
- Hit i chybienie: Najpierw sprawdzana jest pamięć podręczna. Znalazłeś? Uderzyć. Nie znalazłeś? Miss. System musi następnie pobrać dane z większej, wolniejszej puli.
- Limit rozmiaru: Pamięć podręczna jest zawsze mniejsza niż pamięć główna. Nie zmieścisz całej biblioteki w plecaku.
- Możliwość układania warstw: Można je układać jedna na drugiej. Nasz bibliotekarz może mieć półki (większe skrzynki) i plecaki (mniejsze, szybsze skrzynki) za ladą. Sprawdza plecak, potem półki i wreszcie miejsce do przechowywania. Jest to pamięć podręczna wielopoziomowa.
Dzięki tej hierarchii komputery reagują nawet wtedy, gdy z technicznego punktu widzenia przesyłają ogromne ilości danych. Dane, których używasz najczęściej, pozostają bliżej procesora. Reszta czeka w tle.
Jak pamięci podręczne L1, L2 i L3 zwiększają szybkość procesora
Czas jest wrogiem komputerów. Czas procesora mierzony jest w nanosekundach. Kiedy mikroprocesor uzyskuje dostęp do pamięci o dostępie swobodnym (RAM), czeka około 60 nanosekund. To wydaje się bardzo powolne. W przypadku chipa o krótkim cyklu wynoszącym 2 nanosekundy 60 nanosekund to wieczność.
Rozwiązanie leży w hierarchii prędkości. Inżynierowie stworzyli specjalny bank pamięci na płycie głównej. Jest mały. Jest szybki. Czas dostępu wynosi około 30 nanosekund. To dwukrotnie szybciej niż pamięć główna. Jest to pamięć podręczna drugiego poziomu, czyli L2.
Następnie istnieje pamięć podręczna pierwszego poziomu, czyli L1. Ta niewielka, szybka pamięć została umieszczona bezpośrednio w chipie mikroprocesora. Dane są teraz przesyłane z szybkością samego procesora, a nie magistrali pamięci. W procesorze Pentium 233 MHz pamięć podręczna L1 jest 3,5 razy szybsza niż pamięć podręczna L2, która z kolei jest dwukrotnie szybsza niż pamięć RAM.
Niektóre nowe chipy są jeszcze bardziej zaawansowane. Zbudowali dwie warstwy pamięci podręcznej bezpośrednio w podłożu krzemowym. Kiedy tak się dzieje, pamięć podręczna płyty głównej jest przesuwana na poziom trzeci, czyli L3. Tworzona jest drabina prędkości.
Najszybszą rzeczą w komputerze jest mikroprocesor. L1 buforuje L2. L2 buforuje pamięć główną. Pamięć główna buforuje następnie wolniejsze urządzenia peryferyjne, takie jak dyski twarde i dyski CD-ROM. Dyski twarde mogą także buforować połączenie internetowe.
Pamięć podręczna przeglądarki: dlaczego strony internetowe ładują się szybciej
Dostęp do Internetu stał się wąskim gardłem. To najwolniejsze ogniwo w łańcuchu. Przeglądarki internetowe, takie jak Chrome i Safari, są świadome tego problemu. Używają Twojego dysku twardego jako tymczasowej pamięci masowej.
Kiedy po raz pierwszy otwierasz stronę HTML, Twoja przeglądarka pobiera tę stronę i zapisuje jej kopię w określonym folderze na dysku. Renderuje stronę. Widzisz ją.
Następnym razem, gdy klikniesz adres URL, Twoja przeglądarka sprawdzi sygnaturę czasową. Porównuje datę pliku zapisanego w pamięci podręcznej na dysku z datą pliku na serwerze WWW. Jeżeli plik na serwerze nie został zaktualizowany, przeglądarka pominie pobieranie. Zapewni kopię lokalną.
Szybszym systemem pamięci jest dysk twardy. Wolniejszym i większym systemem jest Internet.
Eksperymenty z pamięcią podręczną dysku twardego i dyskietkami
Pamięci podręczne znajdują się nie tylko w procesorze lub przeglądarce. Są one również dostępne na urządzeniach peryferyjnych. Nowoczesne dyski twarde mają szybką pamięć. Zwykle około 512 KB. Kontroler dysku twardego zarządza tą pamięcią, a nie bezpośrednio komputer.
Kiedy system żąda danych, sterownik najpierw sprawdza tę wewnętrzną pamięć podręczną. Dzieje się to zanim poruszy się mechaniczna głowica napędowa. Ruch mechaniczny jest powolny. Dostęp do pamięci jest natychmiastowy. Jeśli dane znajdują się już w pamięci podręcznej, kontroler natychmiast je zwraca. Głowa nigdy się nie porusza. Oszczędzasz czas.
Możesz sam sprawdzić działanie tej pamięci podręcznej. Spróbuj eksperymentu z dyskietką. Dyskietki są bardzo powolne.
Otwórz duży plik, na przykład plik tekstowy o rozmiarze 300 KB. Kontrolka napędu zaświeci się. Czekać. Uruchamianie trwa około 20 sekund, podczas gdy dysk fizycznie szuka danych.
Teraz zamknij edytor. Natychmiast otwórz ponownie ten sam plik. Nie czekaj 30 minut. Nie wypełniaj swojej pamięci innymi zadaniami. Kontrolka napędu nie będzie się świecić. Plik zostanie pobrany natychmiast.
System operacyjny sprawdza pamięć podręczną pod kątem danych z dyskietki. Znajduje je.
Różnica jest oczywista. Jednorazowy dostęp do dyskietki zajmuje 120 milisekund. Dostęp do pamięci głównej zajmuje około 60 nanosekund. To ogromna różnica w prędkości. Test ten można również wykonać na dysku twardym, ale wyniki są mniej zauważalne. Dyskietka sprawia, że opóźnienie jest widoczne.
Hierarchia pamięci podręcznej: szybkość i rozmiar
Aby zrozumieć cały system, spójrz na liczby.
- L1 Cache : Pamięć podręczna przy pełnej szybkości mikroprocesora. Czas dostępu wynosi około 10 nanosekund. Rozmiar waha się od 4 KB do 16 KB.
- Pamięć podręczna L2 : Dostęp oparty na pamięci SRAM. Zajmuje 20–30 nanosekund. Rozmiar wynosi zwykle od 128 do 512 KB.
- Pamięć główna : Zwykła pamięć o dostępie swobodnym (RAM). Czas dostępu wynosi około 60 nanosekund. Rozmiar waha się od 32 MB do 128 MB.
- Dysk twardy (HDD) : Mechaniczny i powolny. Czas dostępu wynosi około 12 milisekund. Rozmiar od 1 GB do 10 GB.
- Internet : Niewiarygodnie powolny. Opóźnienie waha się od 1 sekundy do dni. Rozmiar jest praktycznie nieograniczony.
L1 buforuje L2. L2 buforuje pamięć główną. Pamięć główna buforuje dysk. Dysk buforuje sieć.
Jest to bieg sztafetowy, w którym każdy biegacz jest szybszy od poprzedniego. Jednak dane są zawsze przesyłane ze strony wolniejszej do szybszej. Jeśli brakuje pamięci podręcznej, czekasz. Jeśli jest to trafienie w pamięć podręczną, to nie. Ogólna wydajność komputera zależy od tego, jak często znajduje się pomiędzy szybką, małą pamięcią a powolną, dużą pamięcią masową.
Wyobraź sobie świat, w którym każdy bajt pamięci RAM komputera jest tak szybki, jak pamięć podręczna L1 procesora. Byłoby błyskawicznie. Ale takie podejście doprowadziłoby również do bankructwa.
Jest to zasadniczy kompromis w architekturze komputera. Potrzebujesz szybkości, ale musisz także mieć pewność, że Twoje konto bankowe nie zniknie, gdy kupisz nowy komputer. Buforowanie jest takim kompromisem. Używanie małych ilości drogiej, szybkiej pamięci w celu przyspieszenia dużych ilości taniej, wolnej pamięci.
Oto matematyka stojąca za tym szaleństwem.
Nowoczesne procesory 500 MHz wykonują 500 milionów cykli na sekundę. Jest to jeden cykl co 2 nanosekundy. Jeśli Twój procesor będzie musiał czekać na pamięć RAM, uderzysz w ścianę. Dostęp do pamięci głównej zajmuje około 60 nanosekund. To około 30 zmarnowanych cykli. 30 cykli. Znikają. Marnotrawstwo występuje, gdy procesor czeka na przybycie danych z wolnej pamięci.
Bez pamięci podręcznej L1 i L2 komputer przez większość czasu pozostawałby bezczynny, czekając, aż pamięć go dogoni.
Magia małej skrytki
Rozważmy 256 KB pamięci podręcznej L2 zarządzającej 64 MB pamięci RAM. Odpowiada to w przybliżeniu 256 000 bajtów pamięci podręcznej na 64 000 000 bajtów pamięci.
Jak tak mała i szybka pamięć może poradzić sobie z dużą ilością danych? Działa w oparciu o zasadę zwaną lokalnością łącza.
Choć brzmi to akademicko, koncepcja jest intuicyjna. W dość skomplikowanych programach nie używa się całego kodu na raz. Tylko niewielka część jest ponownie wykorzystywana. Nawet jeśli rozmiar pliku wykonywalnego wynosi 10 megabajtów, aktywnych jest tylko kilkaset bajtów na sekundę. I te konkretne bajty pojawiają się raz po raz.
Procesor nie musi za każdym razem pobierać kodu i danych z wolnej pamięci głównej. Są pobierane z pamięci podręcznej. Pamięć podręczna trafia w cel niemal za każdym razem, ponieważ stale wykorzystywane są te same bity.
Link do lokalizacji w akcji
Spójrzmy na prostą sekwencję logiczną, aby zrozumieć, dlaczego tak jest. Wyobraź sobie program, który prosi Cię o wprowadzenie liczby z zakresu od 1 do 100.
- Program oczekuje na wprowadzenie danych.
- Zapisz swój numer w zmiennej X.
- Ustaw zmienną Y na 100.
- Ustaw zmienną Z na 1.
- Pętla: Podziel Z przez X.
- Jeśli reszta wynosi zero, wydrukuj „Z jest wielokrotnością X”.
- Dodaj 1 do Z.
- Powtarzaj krok 5, aż Z osiągnie Y.
Linie od 1 do 4 są wykonywane tylko raz. Pętla (linie od 5 do 8) jest wykonywana 100 razy.
Procesor wielokrotnie wykonuje instrukcje pętli. Instrukcje te pozostają w pamięci podręcznej, dzięki czemu są wykonywane z pełną prędkością. A co z resztą programu? Uruchamia się raz i znika.
To jest lokalizacja linku w prostych słowach. Około 95% czasu wykonywania programu przypada na wykonanie małego zestawu powtarzalnego kodu. Edytory tekstu robią to samo. Spędzają 95% czasu czekając, aż napiszesz lub odświeżysz ekran. Kod obsługujący interakcję znajduje się w pamięci podręcznej. Pozostałe 5% zajmuje się ciężką pracą: formatowaniem, sprawdzaniem pisowni i zapisywaniem.
Utrzymanie tych 5% w szybkiej pamięci sprawi, że procesor będzie wydawał się natychmiast reagować. Użytkownicy uważają, że jest responsywny. Producenci oszczędzają pieniądze, nie używając SRAM (statycznej pamięci o dostępie swobodnym) do tworzenia modułów RAM o pojemności 64 MB. W przypadku woluminów masowych używana jest pamięć DRAM (pamięć dynamiczna), a w przypadku pamięci podręcznej używana jest SRAM.
To nie jest idealna równowaga. Czasami zdarza się, że brakuje pamięci podręcznej i procesor nadal musi czekać. Ale w 95% przypadków to działa. Dlatego nie marnujemy czasu na budowanie komputerów z szybkiej pamięci. Nie możemy sobie na to pozwolić. Uzyskaj 95% wydajności za ułamek kosztów.
Często zadawane pytania
Jaki jest cel skrytki?
Buforowanie przechowuje dane w tymczasowej, szybkiej lokalizacji, dzięki czemu można je odzyskać szybciej niż w przypadku dostępu do pamięci głównej. Zmniejsza opóźnienia i poprawia wydajność systemu.
Co to jest pamięć podręczna?
Buforowanie w pamięci przechowuje często używane dane w zarezerwowanych lokalizacjach (pamięciach podręcznych), do których można uzyskać dostęp szybciej niż w pamięci głównej lub na dysku. Umożliwia to procesorowi pobieranie danych bez opóźniania pamięci głównej.
Co to jest buforowanie i jak działa?
Buforowanie to technika wykorzystująca zasadę lokalności odniesień. Przewiduje, jakich danych procesor będzie potrzebował w następnej kolejności i zapisuje je w szybkiej pamięci. Kiedy procesor żąda tych informacji, natychmiast znajduje je w pamięci podręcznej, zamiast czekać na dostarczenie ich z wolniejszej pamięci głównej.





















