A memória cache está presente nos computadores modernos. A ideia básica do uso desse tipo de memória é que

as palavras de memória usadas com menos frequência sejam mantidas na memória cache.

quando a CPU precisar de uma palavra e não a encontrar na memória principal, ela recorra à memória cache.

quando a CPU precisar de uma palavra, ela examine em primeiro lugar a memória principal.

se uma dada referência à memória for para o endereço A, é provável que a próxima estará na vizinhança geral de A.

se uma fração substancial das palavras requeridas pela CPU estiver na cache, o tempo médio de acesso à memória poderá ser muito elevado.