No todas las instrucciones de la CPU tienen la misma complejidad. Cuando las instrucciones son particularmente complejas (como algunas instrucciones x86), es más conveniente implementarlas como una serie de instrucciones elementales que se encuentran en una memoria interna muy rápida. Cuando se ejecuta una instrucción microcodificada, el microprocesador la divide en una serie de instrucciones codificadas en hardware simple y ejecutarlas en serie.
Por lo tanto, el microcódigo se utiliza en instrucciones más complejas, mientras que las instrucciones simples se ejecutan directamente. Por ejemplo, hoy en día los microprocesadores Intel utilizan microcódigo para ejecutar algunas instrucciones antiguas. Los microprocesadores x86, que en el papel son CISC, utilizan internamente una arquitectura que se parece más a RISC para aumentar el rendimiento y ofrecen soporte a las instrucciones heredadas a través de microcódigo.
Puede encontrar muchas CPU RISC que no utilizan microcódigo. Esto se debe esencialmente a su reducido conjunto de instrucciones, lo que hace que sea más conveniente implementar todas las instrucciones en hardware. Un ejemplo de microprocesador que no utiliza microcódigo es el MOS 6502.