En parte, tengo que estar en desacuerdo con Spehro. Él está muerto sobre el tiempo de respuesta del 4N35.
Creo que está equivocado con el CTR. La hoja de datos dice 100% CTR en sus niveles actuales, y esto debería dar un margen adecuado. Pero es fácil de verificar: mire los niveles reales de 4N35 en lugar de su salida de búfer actual. Sospecho que encontrarás que el voltaje va a cero.
Creo que su problema es la topología de su búfer actual (Q5 / Q6). Esto no se comporta bien cerca de sus límites. Esta configuración se usa generalmente para aumentar las corrientes lineales, como +/- 10v con fuentes de alimentación de +/- 15 voltios. En la unidad de base cero, el Q5 se apagará, pero para niveles de salida bajos tampoco se está extrayendo la corriente de base del Q6. No esperaría bajar a más de aproximadamente 7 voltios. Para lo que intenta hacer, si debe usar esta topología, debe conducir las bases Q5 / Q6 y Q7 / Q8 a Vcc + .7v y Gnd - .7v para activar los transistores apropiados. En cualquier caso, verifique los niveles de entrada del búfer en lugar de las salidas. En este caso, es posible que no tenga problemas reales, ya que un ZN44 no se enciende con fuerza con solo 2 voltios Vgs.
Y no sé cómo los está conectando, pero está mostrando conexiones a tierra separadas de entrada y salida (GND y 0V), pero está haciendo referencia a XSC1 a la tierra de entrada mientras mide un voltaje de salida, y si no están atados correctamente, pueden estar a la deriva, dándole un desplazamiento aparente.
Finalmente, las puertas de tu puente H están mal conectadas. Quiere hacer la unidad Q1 / Q4 juntos, no Q3 / Q4, y Q2 / Q3, no Q1 / Q2.