Qu’est-ce que le cache et pourquoi en avez-vous besoin sur votre ordinateur ?

17

Si vous envisagez d’acheter un nouvel ordinateur portable ces derniers temps, il y a de fortes chances que vous ayez entendu ce terme. Un ami ou un parent connaisseur en technologie peut vous mettre en garde contre l’utilisation de puces Celeron moins chères, invoquant un manque de « cache ». Cela semble être un petit détail dans les spécifications. ce n’est pas.

Qu’est-ce qu’un cache ? Il s’agit d’une couche de stockage de données à haut débit située entre le processeur et la mémoire principale. Sans cela, l’informatique moderne serait en train de ramper.

Les ordinateurs utilisent le cache partout. À l’intérieur du processeur se trouvent le cache L1, L2 et souvent L3. Ensuite, les systèmes d’exploitation disposent de caches mémoire, de caches de pages et de caches disque. La mémoire virtuelle agit également comme une sorte de cache. Accélérez les tâches et réduisez les coûts matériels. Comment cela fonctionne en pratique.

Analogie avec un bibliothécaire : pas de cache

Pour comprendre la logique, retirons le silicium et utilisons le bibliothécaire. Imaginez une bibliothèque où vous ne pouvez pas toucher aux livres vous-même. vous avez demandé au bibliothécaire qui a couru vers la salle de stockage arrière pour récupérer le livre.

Le premier client arrive. Il voulait Moby Dick. Le bibliothécaire entra dans le débarras, en sortit un livre et le lui tendit. Le client rend le livre plus tard. Le bibliothécaire l’a ramené au débarras. Il retourna à son bureau et attendit.

Le prochain client veut à nouveau Moby Dick. Le bibliothécaire doit à nouveau faire le tour de toute la salle de stockage. Même pour les titres populaires, il fait à chaque fois le même travail inefficace.

C’est ainsi que fonctionne un ordinateur sans cache. Utilise la mémoire principale (stockage) pour chaque requête, quelle que soit la fréquence.

Analogie avec un bibliothécaire : utiliser le cache

Maintenant, donnez à ce bibliothécaire un sac à dos. Il peut transporter jusqu’à 10 livres. Ce sac à dos est une cache.

Une nouvelle journée a commencé. Le sac à dos est vide. Le premier client voulait Moby Dick. Le bibliothécaire se rendit au magasin, prit le livre et le lui tendit. Le client rend le livre. Au lieu de le rapporter au débarras, le bibliothécaire le place dans son sac à dos. Il est resté assis à son bureau.

Un autre client arrive. Je veux Moby Dick. Le bibliothécaire cherche d’abord un sac à dos. Le livre est là. Il l’a remis immédiatement. Pas de déplacement au cellier. Les clients bénéficient d’un service plus rapide.

Il s’agit d’un accès au cache. Ce produit a été trouvé en stockage rapide.

Manques de cache et latence

Que se passe-t-il si le client demande un livre qui n’est pas dans le sac à dos ? Le bibliothécaire doit d’abord chercher le sac. Ce n’est qu’à ce moment-là qu’il s’est rendu compte qu’il manquait. Puis il a couru vers l’entrepôt.

Il s’agit d’un manque de cache.

Est-ce que cela rend le bibliothécaire moins efficace ? Techniquement oui. Il a d’abord perdu du temps à vérifier le sac. En informatique, cependant, ce retard est négligeable. Le matériel moderne vérifie la disponibilité du cache en quelques nanosecondes. En comparaison, le chemin vers le « stockage » (mémoire principale) est immense. La pénalité en cas de manque est faible par rapport à la pénalité en cas de non-mise en cache.

Règles de mise en cache importantes

À partir de ce modèle simple, nous voyons les mécanismes de base.

  • Vitesse et taille : Les caches utilisent une mémoire plus rapide et plus petite pour accélérer une mémoire plus lente et plus grande. Il fonctionne avec les systèmes d’exploitation, les serveurs Web et le matériel.
  • Hit and Miss : Vérifiez d’abord le cache. L’avez-vous trouvé ? Frapper. Pas trouvé ? Miss. Le système doit alors récupérer les données à partir d’un pool plus grand et plus lent.
  • Limitation de taille : La mémoire cache est toujours plus petite que la mémoire principale. Vous ne pouvez pas mettre toute la bibliothèque dans un sac à dos.
  • Plusieurs couches : Celles-ci peuvent être empilées. Notre bibliothécaire pourrait avoir une étagère (caches plus grandes) et des sacs à dos (caches plus petites et plus rapides) derrière le comptoir. Il vérifie le sac à dos, puis les étagères, puis le débarras. Il s’agit d’un cache à plusieurs niveaux.

Cette hiérarchie donne l’impression que les ordinateurs sont agiles, même lorsqu’ils doivent jongler techniquement avec de grandes quantités de données. Les données que vous utilisez le plus restent à proximité du processeur. Les autres attendent en arrière-plan.

Comment les caches L1, L2 et L3 améliorent la vitesse du processeur

Le temps est l’ennemi de l’informatique. Mesure le temps du processeur en nanosecondes. Lorsque le microprocesseur accède à la RAM, il attend environ 60 nanosecondes. Cela semble très lent. Pour une puce avec un temps de cycle court de 2 nanosecondes, 60 nanosecondes représentent une éternité.

La solution réside dans les cours de vitesse. Les ingénieurs ont construit une banque de mémoire spéciale sur la carte mère. C’est petit. C’est rapide. L’accès prend environ 30 nanosecondes. C’est deux fois plus rapide que la mémoire principale. Il s’agit du cache de deuxième niveau ou L2.

Ensuite, il y a le cache de premier niveau ou L1. Ils ont placé cette petite mémoire haute vitesse directement sur la puce du microprocesseur. Les données sont désormais transférées à la vitesse du processeur lui-même au lieu du bus mémoire. Dans un Pentium 233 MHz, le cache L1 est 3,5 fois plus rapide que le cache L2, qui est deux fois plus rapide que la RAM.

Certaines puces plus récentes sont encore plus avancées. Ils ont intégré deux couches de cache à l’intérieur de la puce en silicium. Lorsque cela se produit, le cache de la carte mère est poussé au niveau 3 ou L3. Cela crée une échelle de vitesse.

L’élément le plus rapide d’un ordinateur est le microprocesseur. L1 met en cache L2. Mémoire principale du cache L2. La mémoire principale met ensuite en cache les périphériques plus lents tels que les disques durs et les CD-ROM. Les disques durs peuvent également mettre en cache votre connexion Internet.

Cache du navigateur : pourquoi les pages Web se chargent plus rapidement

L’accès à Internet est devenu un goulot d’étranglement. C’est le maillon le plus lent de la chaîne. Les navigateurs Web tels que Chrome et Safari en sont conscients. Ils utilisent votre disque dur comme stockage temporaire.

Lorsque vous accédez à une page HTML pour la première fois, votre navigateur charge la page et enregistre une copie dans un dossier spécifique de votre disque. Rendre la page. Vous le voyez.

La prochaine fois que vous cliquerez sur l’URL, votre navigateur vérifiera l’horodatage. Compare la date du fichier mis en cache sur le disque avec la date du serveur Web. Si le fichier du serveur n’est pas nouveau, le navigateur ignorera le téléchargement. Il sert la copie locale.

Un système de mémoire plus petit et plus rapide est le disque dur. Le système le plus vaste et le plus lent est Internet.

Expérimentation avec le cache du disque dur et les lecteurs de disquettes

Les caches ne se trouvent pas uniquement dans votre processeur ou votre navigateur. Il vit sur les périphériques. Les disques durs modernes ont une mémoire rapide. Généralement environ 512 Ko. Le contrôleur de disque dur gère cette mémoire plutôt que l’ordinateur la gère directement.

Lorsque le système demande des données, le pilote vérifie d’abord ce cache interne. Ceci est fait avant de déplacer la tête mécanique du variateur. Le mouvement mécanique est lent. L’accès à la mémoire est immédiat. Si les données sont mises en cache, le contrôleur revient immédiatement. La tête ne bouge jamais. Vous gagnez du temps.

Vous pouvez vérifier vous-même le comportement de ce cache. Essayez une expérience avec un lecteur de disquette. Les disquettes sont très lentes.

Ouvrez un fichier volumineux, tel qu’un fichier texte de 300 Ko. Le voyant de la disquette s’allume. Attendez. Le chargement prend environ 20 secondes pendant que le lecteur recherche physiquement les données.

Fermez maintenant l’éditeur. Ouvrez à nouveau le même fichier immédiatement. N’attendez pas 30 minutes. Ne remplissez pas la mémoire avec d’autres tâches. Le voyant de la disquette ne s’allume pas. Le fichier se charge instantanément.

Le système d’exploitation vérifie la mémoire cache pour les données de disquette. Il l’a trouvé.

La différence est évidente. Un accès à une disquette prend 120 millisecondes. L’accès à la mémoire principale prend environ 60 nanosecondes. C’est un énorme écart de vitesse. Ce test peut être effectué sur un disque dur, mais les résultats ne sont pas aussi visibles. La disquette rend visible la latence.

Hiérarchie du cache : vitesse et taille

Pour comprendre l’ensemble du système, regardez les chiffres.

  • Cache L1 : Mémoire cache à pleine vitesse du microprocesseur. Le temps d’accès est d’environ 10 nanosecondes. La taille varie de 4 Ko à 16 Ko.
  • Cache L2 : accès basé sur SRAM. Cela prend 20 à 30 nanosecondes. La taille est généralement comprise entre 128 et 512 Ko.
  • Mémoire principale : RAM normale. L’accès prend environ 60 nanosecondes. La taille varie de 32 Mo à 128 Mo.
  • HDD : Mécanique et lent. L’accès prend environ 12 millisecondes. La taille est de 1 Go à 10 Go.
  • Internet : incroyablement lent. La latence varie de 1 seconde à jours. La taille est pratiquement illimitée.

L1 met en cache L2. Mémoire principale du cache L2. Disque cache de la mémoire principale. Le disque met en cache le réseau.

Il s’agit d’une course de relais où chaque coureur est plus rapide que le précédent. Cependant, les données sont toujours transférées du côté le plus lent vers le côté le plus rapide. Si le cache manque, vous attendez. Si ça frappe, vous ne le faites pas. Les performances globales de la machine sont déterminées par la fréquence à laquelle elle se situe entre une mémoire rapide et de petite taille et un stockage lent et volumineux.

Imaginez un monde dans lequel chaque octet de la RAM de votre ordinateur fonctionnait aussi vite que le cache L1 de votre processeur. Ce serait un éclair. Il fait faillite aussi.

Il s’agit d’un compromis fondamental dans l’architecture informatique. Vous avez besoin de rapidité, mais vous devez également vous assurer que votre compte bancaire ne disparaît pas lorsque vous achetez un nouvel ordinateur. La mise en cache est le compromis. Utilisez de petites quantités de mémoire rapide et coûteuse pour accélérer de grandes quantités de mémoire lente et bon marché.

C’est le calcul derrière la folie.

Les puces modernes de 500 MHz effectuent 500 millions de cycles par seconde. Il s’agit d’un cycle toutes les 2 nanosecondes. Si votre processeur doit attendre de la RAM, vous vous heurterez à un mur. L’accès à la mémoire principale prend environ 60 nanosecondes. Cela représente environ 30 cycles perdus. 30 cycles. Disparu. Le gaspillage se produit lorsque le processeur attend que les données arrivent d’un stockage lent.

Sans cache L1 et L2, votre ordinateur resterait inactif pendant la majeure partie de sa vie, attendant que la mémoire rattrape son retard.

La magie d’une petite cache

Considérons un cache L2 de 256 Ko gérant 64 Mo de RAM. Cela équivaut à peu près à un ratio de 256 000 octets de cache pour 64 000 000 d’octets.

Comment une mémoire aussi petite et rapide peut-elle gérer de grandes quantités de données ? Il fonctionne selon un principe appelé localité de référence.

Même si cela semble académique, le concept est intuitif. Dans les programmes assez complexes, vous n’utiliserez pas tout le code en même temps. Seule une petite partie est réutilisée. Même si le fichier exécutable fait 10 mégaoctets, seuls quelques centaines d’octets sont actifs par seconde. Et ces octets spécifiques ? Ils apparaissent encore et encore.

Le processeur n’a pas besoin de récupérer le code et les données de la mémoire principale lente à chaque fois que cela est nécessaire. Récupérer du cache. Le cache est touché presque à chaque fois car les mêmes bits continuent d’être réutilisés.

Localité de référence en action

Examinons un flux logique simple pour voir pourquoi il en est ainsi. Imaginez un programme qui vous demande de saisir un nombre compris entre 1 et 100.

  1. Le programme attend une entrée.
  2. Stockez votre numéro dans la variable X.
  3. Définissez la variable Y sur 100.
  4. Définissez la variable Z sur 1.
  5. Boucle : Divisez Z par X.
  6. Si le reste est nul, imprimez « Z est un multiple de X ».
  7. Cela ajoute 1 à Z.
  8. Répétez l’étape 5 jusqu’à ce que Z atteigne Y.

Les lignes 1 à 4 ne sont exécutées qu’une seule fois. La boucle (lignes 5 à 8) s’exécute 100 fois.

Le processeur exécute des instructions de boucle à plusieurs reprises. Ces instructions restent mises en cache afin qu’elles s’exécutent à pleine vitesse. Et le reste du programme ? Il s’exécute une fois puis disparaît.

Il s’agit de localité de référence en anglais simple. Environ 95 % du temps d’exécution d’un programme est consacré à l’exécution d’un petit ensemble de code répétitif. Les traitements de texte font la même chose. Ils passent 95 % de leur temps à attendre que vous tapiez ou mettiez à jour l’écran. Le code qui gère l’interaction est mis en cache. Les 5 % restants font le gros du travail : formatage, vérification orthographique et sauvegarde.

En gardant ces 5 % au chaud dans une mémoire rapide, votre processeur aura l’impression de fonctionner instantanément. Les utilisateurs le trouvent réactif. Les fabricants économisent de l’argent en n’ayant pas besoin d’utiliser la SRAM (Static Random Access Memory) pour construire des modules RAM de 64 Mo. Il utilise la DRAM (Dynamic RAM) pour le volume et la SRAM pour le cache.

Ce n’est pas un équilibre parfait. Parfois, le cache manque et le processeur doit encore attendre. Mais ça marche dans 95% des cas. C’est pourquoi nous ne prenons pas la peine de construire des ordinateurs avec une mémoire rapide. Nous ne pouvons pas nous le permettre. Obtenez une efficacité de 95 % à une fraction du coût.

Questions fréquemment posées

À quoi sert le cache ?
La mise en cache stocke les données dans un emplacement temporaire et rapide afin qu’elles puissent être récupérées plus rapidement que l’accès au stockage principal. Réduit la latence et améliore les performances du système.

Qu’est-ce que le cache mémoire ?
La mise en cache en mémoire stocke les données fréquemment consultées dans des emplacements réservés (caches) accessibles plus rapidement que la RAM principale ou le stockage sur disque. Cela permet au processeur de récupérer des données sans latence de la mémoire principale.

Qu’est-ce que la mise en cache et comment fonctionne-t-elle ?
La mise en cache est une technique qui tire parti de la localité de référence. Il prédit les données dont le processeur aura ensuite besoin et les stocke dans une mémoire rapide. Lorsque le processeur demande ces informations, il les trouve immédiatement dans le cache au lieu d’attendre qu’elles soient fournies par la mémoire principale, plus lente.

Informations détaillées

Попередня статтяParamètres, compatibilité et ressources communautaires de MuseScore 4
Наступна статтяFacebook Güvendeyim Butonu Kullanım Rehberi