Додому Интернет и IT Гаджеты Что такое кэш и зачем он нужен вашему компьютеру?

Что такое кэш и зачем он нужен вашему компьютеру?

Если вы недавно присматривались к покупке нового ноутбука, скорее всего, вы слышали этот термин. Друг или технически подкованный родственник мог предостеречь вас от использования более дешевых процессоров Celeron, ссылаясь на отсутствие «кэша». Это кажется мелкой деталью в спецификациях, но это не так.

Что такое кэш? Это слой высокоскоростного хранения данных, расположенный между процессором и основной памятью. Без него современные вычисления шли бы крайне медленно.

Кэш используется в компьютерах повсеместно. Внутри процессора находятся кэши L1, L2 и часто L3. Далее, операционные системы используют кэши памяти, страничные кэши и дисковые кэши. Виртуальная память также действует как своего рода кэш. Это ускоряет выполнение задач и снижает затраты на оборудование. Как это работает на практике.

Аналогия с библиотекарем: без кэша

Чтобы понять логику, отбросим кремний и воспользуемся образом библиотекаря. Представьте библиотеку, где вам нельзя самостоятельно трогать книги. Вы просите библиотекаря, который бежит в заднее хранилище, чтобы принести книгу.

Приходит первый клиент. Ему нужна книга «Моби Дик». Библиотекарь заходит в хранилище, берет книгу и передает ее клиенту. Клиент позже возвращает книгу. Библиотекарь относит ее обратно в хранилище. Он возвращается за свой стол и ждет.

Следующий клиент снова хочет «Моби Дик». Библиотекарь снова должен обойти все хранилище. Даже для популярных заголовков он каждый раз выполняет одну и ту же неэффективную работу.

Так работает компьютер без кэша. Для каждого запроса используется основная память (хранилище), независимо от частоты обращений.

Аналогия с библиотекарем: с использованием кэша

Теперь дайте тому же библиотекарю рюкзак. Он может носить до 10 книг. Этот рюкзак и есть кэш.

Начался новый день. Рюкзак пуст. Первый клиент хотел «Моби Дик». Библиотекарь зашел в хранилище, взял книгу и передал ее. Клиент возвращает книгу. Вместо того чтобы относить ее обратно в хранилище, библиотекарь кладет ее в свой рюкзак. Он остается сидеть за своим столом.

Приходит другой клиент. Ему нужна «Моби Дик». Библиотекарь сначала смотрит в рюкзак. Книга там. Он сразу же передает ее. Никакой поездки в хранилище. Клиенты получают более быстрый сервис.

Это называется попаданием в кэш (cache hit). Этот продукт был найден в быстром хранилище.

Промахи в кэше и задержка

Что если клиент запросит книгу, которой нет в рюкзаке? Библиотекарь сначала должен проверить рюкзак. Только тогда он понимает, что книги там нет. Затем он бежит на склад.

Это называется промахом в кэше (cache miss).

Делает ли это библиотекаря менее эффективным? Технически да. Он потратил время на проверку рюкзака. Однако в вычислениях эта задержка пренебрежимо мала. Современное оборудование проверяет наличие данных в кэше за наносекунды. В сравнении с путем к «хранилищу» (основной памяти) он огромен. Штраф за промах невелик по сравнению с штрафом за отсутствие кэширования.

Важные правила кэширования

Из этой простой модели мы видим основные механизмы.

  • Скорость и размер: Кэши используют более быструю, но меньшую по объему память для ускорения более медленной и большей по объему памяти. Это работает с операционными системами, веб-серверами и аппаратным обеспечением.
  • Попадание и промах: Сначала проверяется кэш. Нашли? Попадание. Не нашли? Промах. Затем система должна извлечь данные из большего и более медленного пула.
  • Ограничение размера: Память кэша всегда меньше, чем основная память. Вы не можете поместить всю библиотеку в рюкзак.
  • Многослойность: Их можно накладывать друг на друга. У нашего библиотекаря могли быть полки (более крупные кэши) и рюкзаки (более мелкие, быстрые кэши) за стойкой. Он проверяет рюкзак, затем полки, затем хранилище. Это многоуровневый кэш.

Эта иерархия делает компьютеры отзывчивыми, даже когда технически они перемещают огромные объемы данных. Данные, которые вы используете чаще всего, остаются ближе к процессору. Остальные ждут в фоновом режиме.

Как кэши L1, L2 и L3 повышают скорость процессора

Время — враг вычислений. Время процессора измеряется в наносекундах. Когда микропроцессор обращается к оперативной памяти (RAM), он ждет около 60 наносекунд. Это кажется очень медленным. Для чипа с коротким циклом в 2 наносекунды 60 наносекунд — это целая вечность.

Решение заключается в иерархии скоростей. Инженеры создали на материнской плате специальный банк памяти. Он небольшой. Он быстрый. Время доступа составляет около 30 наносекунд. Это в два раза быстрее, чем основная память. Это кэш второго уровня, или L2.

Затем есть кэш первого уровня, или L1. Этот небольшой высокоскоростной память поместили непосредственно на чип микропроцессора. Данные теперь передаются со скоростью самого процессора, а не шины памяти. В процессоре Pentium 233 МГц кэш L1 в 3,5 раза быстрее, чем кэш L2, который, в свою очередь, в два раза быстрее, чем RAM.

Некоторые новые чипы даже более продвинутые. Они встроили два слоя кэша непосредственно в кремниевую подложку. Когда это происходит, кэш материнской платы отодвигается на третий уровень, или L3. Создается лестница скоростей.

Самое быстрое в компьютере — это микропроцессор. L1 кэширует L2. L2 кэширует основную память. Основная память затем кэширует более медленные периферийные устройства, такие как жесткие диски и CD-ROM. Жесткие диски также могут кэшировать ваше интернет-соединение.

Кэш браузера: почему веб-страницы загружаются быстрее

Доступ в Интернет стал узким местом. Это самое медленное звено в цепи. Веб-браузеры, такие как Chrome и Safari, осознают эту проблему. Они используют ваш жесткий диск в качестве временного хранилища.

Когда вы впервые открываете HTML-страницу, ваш браузер загружает страницу и сохраняет ее копию в определенной папке на диске. Отрисовывает страницу. Вы ее видите.

В следующий раз, когда вы нажмете на URL, ваш браузер проверит временную метку. Он сравнивает дату кэшированного файла на диске с датой файла на веб-сервере. Если файл на сервере не обновился, браузер пропустит загрузку. Он предоставит локальную копию.

Более быстрая система памяти — это жесткий диск. Более медленная и большая система — это Интернет.

Эксперименты с кэшем жесткого диска и гибкими дисками

Кэши находятся не только в вашем процессоре или браузере. Они есть и на периферийных устройствах. Современные жесткие диски имеют быструю память. Обычно около 512 КБ. Контроллер жесткого диска управляет этой памятью, а не компьютер напрямую.

Когда система запрашивает данные, драйвер сначала проверяет этот внутренний кэш. Это происходит до того, как переместится механическая головка привода. Механическое движение медленное. Доступ к памяти мгновенный. Если данные уже закэшированы, контроллер возвращает их немедленно. Головка никогда не двигается. Вы экономите время.

Вы можете самостоятельно проверить работу этого кэша. Попробуйте эксперимент с гибким диском (дискетой). Дискеты очень медленные.

Откройте большой файл, например текстовый файл размером 300 КБ. Загорится лампочка дисковода. Подождите. Загрузка занимает около 20 секунд, пока привод физически ищет данные.

Теперь закройте редактор. Снова откройте тот же файл немедленно. Не ждите 30 минут. Не заполняйте память другими задачами. Лампочка дисковода не загорится. Файл загрузится мгновенно.

Операционная система проверяет кэш памяти на наличие данных с дискеты. Она находит их.

Разница очевидна. Одно обращение к дискете занимает 120 миллисекунд. Обращение к основной памяти занимает около 60 наносекунд. Это огромная разница в скорости. Этот тест можно провести и с жестким диском, но результаты менее заметны. Дискета делает задержку видимой.

Иерархия кэшей: скорость и размер

Чтобы понять всю систему, посмотрите на цифры.

  • Кэш L1 : Память кэша на полной скорости микропроцессора. Время доступа составляет около 10 наносекунд. Размер варьируется от 4 КБ до 16 КБ.
  • Кэш L2 : Доступ на основе SRAM. Занимает 20–30 наносекунд. Размер обычно составляет от 128 до 512 КБ.
  • Основная память : Обычная оперативная память (RAM). Время доступа составляет около 60 наносекунд. Размер варьируется от 32 МБ до 128 МБ.
  • Жесткий диск (HDD) : Механический и медленный. Время доступа составляет около 12 миллисекунд. Размер от 1 ГБ до 10 ГБ.
  • Интернет : Невероятно медленный. Задержка варьируется от 1 секунды до дней. Размер практически неограничен.

L1 кэширует L2. L2 кэширует основную память. Основная память кэширует диск. Диск кэширует сеть.

Это эстафета, где каждый бегун быстрее предыдущего. Однако данные всегда передаются от более медленной стороны к более быстрой. Если происходит промах кэша (cache miss), вы ждете. Если попадание (cache hit), то нет. Общая производительность машины определяется тем, как часто она оказывается между быстрой, маленькой памятью и медленным, большим хранилищем.

Представьте мир, где каждый байт оперативной памяти вашего компьютера работал так же быстро, как кэш уровня L1 процессора. Это было бы молниеносно. Но такой подход также привел бы к банкротству.

Это фундаментальный компромисс в архитектуре компьютеров. Вам нужна скорость, но вы также должны убедиться, что ваш банковский счет не исчезнет, когда вы купите новый компьютер. Кэширование — это этот компромисс. Использование небольших объемов дорогой и быстрой памяти для ускорения работы больших объемов дешевой и медленной памяти.

Вот математика, стоящая за этим безумием.

Современные процессоры с частотой 500 МГц выполняют 500 миллионов циклов в секунду. Это один цикл каждые 2 наносекунды. Если ваш процессор должен ждать от оперативной памяти, вы упретесь в стену. Доступ к основной памяти занимает около 60 наносекунд. Это около 30 потраченных впустую циклов. 30 циклов. Пропадают. Потери возникают, когда процессор ожидает поступления данных из медленного хранилища.

Без кэшей L1 и L2 ваш компьютер большую часть времени простаивал бы, ожидая, пока память догонит его.

Магия небольшого кэша

Рассмотрим кэш L2 объемом 256 КБ, управляющий 64 МБ оперативной памяти. Это примерно соответствует соотношению 256 000 байт кэша к 64 000 000 байт памяти.

Как такая маленькая и быстрая память может управлять большими объемами данных? Она работает на основе принципа, называемого локальностью ссылок.

Хотя это звучит академично, концепция интуитивно понятна. В довольно сложных программах вы не используете весь код одновременно. Повторно используется лишь небольшая часть. Даже если размер исполняемого файла составляет 10 мегабайт, активными являются лишь несколько сотен байт в секунду. И эти конкретные байты появляются снова и снова.

Процессору не нужно каждый раз извлекать код и данные из медленной основной памяти. Они извлекаются из кэша. Кэш попадает в цель почти каждый раз, потому что одни и те же биты постоянно повторно используются.

Локальность ссылок в действии

Давайте посмотрим на простую логическую последовательность, чтобы понять, почему это так. Представьте программу, которая просит вас ввести число от 1 до 100.

  1. Программа ожидает ввода.
  2. Сохраните ваше число в переменную X.
  3. Установите переменную Y равной 100.
  4. Установите переменную Z равной 1.
  5. Цикл: Разделите Z на X.
  6. Если остаток равен нулю, выведите «Z кратно X».
  7. Прибавьте 1 к Z.
  8. Повторите шаг 5, пока Z не достигнет Y.

Строки с 1 по 4 выполняются только один раз. Цикл (строки с 5 по 8) выполняется 100 раз.

Процессор многократно выполняет инструкции цикла. Эти инструкции остаются в кэше, поэтому они выполняются на полной скорости. Что насчет остальной части программы? Она выполняется один раз, а затем исчезает.

Это локальность ссылок простыми словами. Примерно 95% времени выполнения программы тратится на выполнение небольшого набора повторяющегося кода. Текстовые редакторы делают то же самое. Они проводят 95% времени, ожидая, пока вы напечатаете текст или обновите экран. Код, обрабатывающий взаимодействие, находится в кэше. Оставшиеся 5% выполняют тяжелую работу: форматирование, проверку орфографии и сохранение.

Держа эти 5% в быстрой памяти, ваш процессор будет казаться мгновенно реагирующим. Пользователи находят его отзывчивым. Производители экономят деньги, не используя SRAM (статическое оперативное память) для создания модулей RAM объемом 64 МБ. Для массовых объемов используется DRAM (динамическая память), а для кэша — SRAM.

Это не идеальный баланс. Иногда происходит промах кэша, и процессору все еще приходится ждать. Но в 95% случаев это работает. Вот почему мы не тратим время на создание компьютеров из быстрой памяти. Мы не можем себе этого позволить. Получите 95% эффективности за долю стоимости.

Часто задаваемые вопросы

Каково назначение кэша?
Кэширование хранит данные во временном быстром месте, чтобы их можно было извлечь быстрее, чем при доступе к основному хранилищу. Снижает задержки и улучшает производительность системы.

Что такое кэш памяти?
Кэширование в памяти хранит часто используемые данные в зарезервированных местах (кэшах), к которым можно получить доступ быстрее, чем к основной оперативной памяти или дисковому хранилищу. Это позволяет процессору извлекать данные без задержек основной памяти.

Что такое кэширование и как оно работает?
Кэширование — это техника, использующая принцип локальности ссылок. Она предсказывает, какие данные понадобятся процессору следующим, и сохраняет их в быстрой памяти. Когда процессор запрашивает эту информацию, он сразу же находит ее в кэше, вместо того чтобы ждать ее доставки из более медленной основной памяти.

Подробная информация

Exit mobile version