Podrías poner una tapa a tierra en / cerca de tu puerta mosfet. Quizás a través de \ $ R_4 \ $ en tu circuito.
Prueba esto como una opción:
simular este circuito : esquema creado usando CircuitLab
\ $ R_3 \ $ limita las corrientes repentinas a \ $ C_1 \ $ y la puerta de \ $ M_1 \ $ y las oscilaciones, pero aún así también permite que \ $ C_1 \ $ se descargue bastante rápido a través de la carga del LED cuando la alimentación es remoto. \ $ R_4 \ $ es necesario para evitar que las corrientes de rastreo carguen la puerta mosfet y también para que se descarguen más \ $ C_1 \ $ cuando el LED ya no conduce mucho.
El circuito anterior está configurado para una corriente de LED de aproximadamente \ $ 20 \: \ textrm {mA} \ $ como ejemplo. Si planea algún LED monstruo más adelante, los valores y las selecciones de partes deberían cambiarse.
EDITAR:
Habría preferido el uso de otro BJT en lugar de un mosfet. En ese caso, el siguiente circuito es un derivado fácil, robusto y no necesita \ $ C_1 \ $:
simular este circuito
También puede deshacerse de uno (o quizás de ambos) de los dos resistores \ $ 33 \: \ textrm {k} \ Omega \ $ y simplificarlo aún más. La carga de LED ya es suficiente, por lo que no veo mucha necesidad real de \ $ R_4 \ $. Y dado eso, todo debería encenderse en el estado correcto también sin la necesidad de \ $ R_2 \ $. Pero esto se aplica siempre que haya una carga. De lo contrario, me quedaría con al menos uno de ellos.