Primero comienza por entender cómo funciona el circuito existente. La parte relevante de su esquema es:
No sé qué es un TIL431, así que responderé como si fuera un TL431.
El TL431 se enciende cuando la entrada de la puerta supera los 2,5 V. Cuando esto sucede, la corriente fluye a través de U1 y enciende el transistor de salida. Es de suponer que se utiliza en el lado caliente del aislamiento para desactivar los pulsos de conmutación, lo que no provoca que la tensión de salida global aumente más.
La cadena de divisor de resistencia de R3, R1 y R4 alimenta el voltaje de umbral de 2.5 V a D1 cuando la salida de alimentación es la deseada de 12 V. Sin embargo, trabajar a través de este divisor muestra que tomaría al menos 64 V en la salida para activar D1. A 12 V de salida, el divisor solo produciría a lo sumo 470 mV. Quizás esa sea la diferencia entre un TIL431 y un TL431, pero sin una hoja de datos no lo sabemos.
En cualquier caso, para obtener un voltaje de salida particular, cambia el divisor R3, R1, R4 para producir el voltaje de umbral que dispara D1 cuando la parte superior del divisor está en el voltaje que desea.
Con un TL431 real que tiene un umbral de 2.5 V, dos resistencias iguales es todo lo que necesita, ya que el divisor necesita hacer la mitad del voltaje de salida. En ese caso, reemplace R3 y R1 con 10 kΩ, y R4 con otros 10 kΩ, por ejemplo.
Añadido
Ahora dices que D1 es realmente un TL431. Eso tiene sentido por sí mismo, pero ahora el divisor de voltaje R3, R1, R4 no tiene sentido para 12 V fuera. Claramente hay algo que no nos está diciendo, por lo que no tiene sentido ir más allá, ya que existe una buena posibilidad de que no se aplique realmente a su circuito, sea cual sea su circuito.
Debería entender lo que hacen R8 y R7 antes de modificar esta fuente para 5 V, pero nuevamente, sin el circuito real, hay muchas posibilidades de que los detalles sean una pérdida de tiempo.