A hierarquia de memória é um conceito fundamental em arquitetura de computadores. Segundo Stallings , cada nível da hierarquia possui características distintas de velocidade, custo

Quanto mais se desce na hierarquia, menor é o tempo de acesso e maior é o custo por bit, tornando os níveis inferiores mais caros e mais rápidos que os superiores.

Os registradores do processador estão no nível mais baixo da hierarquia por serem os componentes de maior capacidade de armazenamento e menor velocidade de acesso.

À medida que se desce na hierarquia de memória, o custo por bit aumenta, a capacidade diminui e o tempo de acesso diminui, tornando os níveis inferiores mais rápidos e mais caros que os superiores.

A memória cache está localizada abaixo da memória principal na hierarquia por ser mais lenta que a RAM, servindo como reservatório temporário de dados provenientes do disco rígido.

A volatilidade é uma característica dos níveis superiores da hierarquia de memória — como registradores, cache e memória RAM —, enquanto os níveis inferiores, como o disco rígido e as fitas magnéticas, são não voláteis, preservando seus dados mesmo após o desligamento do computador.