Hasta cierto punto, pero hay momentos en que es fundamental no pensar en el NVIC de esta manera.
Primero, debes preocuparte por lo que estás haciendo con la pila. IIRC, el modelo Cortex se encarga del mantenimiento de la pila y la restauración del registro, pero si está haciendo algo tonto (o incluso no tan tonto), puede provocar desbordamientos de pila.
Siguiente - las interrupciones son INTERRUPTOS. Si está realizando operaciones no atómicas, y la interrupción ocurre en el medio, las cosas pueden complicarse bastante rápidamente, y puede ser un desafío depurar este tipo de problemas.