Hablando de forma lógica, la pila y el montón suelen ser solo memoria; sin embargo, en un nivel de implementación, se espera que se sirvan principalmente desde el caché. En la mayoría de los sistemas, llegan dinámicamente a través de algoritmos de almacenamiento en caché, pero ha habido sistemas que admiten la ubicación explícita en la memoria caché u otra memoria más rápida de lo normal, y probablemente también aquellos que admiten dejar en claro que los datos en particular deben tener prioridad preferencial para la ubicación allí como el espacio lo permite.
El diseño de software de bajo nivel y los generadores de código del compilador se espera que tenga en cuenta la organización del acceso a los datos, lo que probablemente resulte en una buena utilización de la memoria caché, en comparación con la falta constante de memoria caché.
Algunos procesadores tienen un registro de dirección de retorno, que funciona como una especie de caché de pila explícita de un solo profundidad (probablemente también haya varios con pilas de hardware profundas, aunque no se me ocurren ejemplos).