Como mínimo, necesita una resistencia entre D2 y el pin 1 de la batería P3, para limitar la corriente de carga en la batería. Tal como está, la batería puede consumir tanta corriente como el regulador es capaz de apagar. Además de ser probablemente mucho más de lo que quieres, ni siquiera es una cantidad conocida. Se limitará en algún lugar entre la protección de sobrecorriente del regulador y el máximo que la batería puede hundir. Es similar a poner casi un punto muerto en la salida del regulador, en paralelo con lo que sea la carga prevista, donde el cable se sale de la parte superior del esquema cerca de la batería.
Si el módulo de hecho necesita una entrada & Condensadores de salida como se menciona en la página 14 de la hoja de datos (y los comentarios anteriores), tal como está, en cierta medida está usando la batería como un capacitor de salida. Está utilizando el capacitor de salida del regulador de 5V en el dispositivo USB como su capacitor de entrada, pero probablemente un cable largo que conduce a este circuito, lo que agrega resistencia e inductancia. Por lo tanto, es posible que el regulador produzca la salida requerida pero no sea estable bajo la variación de la carga. No está claro si el módulo tiene estos condensadores o no, ya que los condensadores de cerámica no serían tan grandes y podrían ser los marrones más grandes entre el inductor y los pines. No estaría de más agregar más, hasta cierto nivel, así que tal vez agregue algo en el extremo inferior del rango recomendado, entrada de 10uF y salida de 50uF, en caso de que estén en paralelo con cualquiera que ya esté en el tablero.
No tiene una terminación de carga de la batería, lo que significa que no hay circuito para apagar la carga cuando la batería está llena. Si pretende realizar una carga continua y / o desconectará la batería manualmente después de un tiempo razonable, o si no le importa si la batería se sobrecarga demasiado y se estropea, tal vez la resistencia limitadora de corriente sea suficiente. Si está intentando cargar la batería rápidamente (unas pocas horas o menos), necesita un mejor circuito de carga.
Le pregunté acerca de poner un alcance en + 5V y los pines de activación / desactivación en los comentarios porque es posible que estén oscilando por alguna razón, lo que provocó que el regulador tenga que aumentar su capacidad y amp; abajo una y otra vez, donde puede parecer que la salida está siendo regulada pero el circuito no funciona como se esperaba. + 5V podría caerse u oscilar si se está sobrecargando (como menciona Madmanguruman), el pin de encendido / apagado podría oscilar porque R6 es un valor demasiado alto (como lo menciona davidcary).
Para empezar, podría sacar D2 del circuito para que el regulador no tenga la batería ni la carga en su salida, y alcance cada pin que pueda tocar para ver si las cosas se ven como espera y estables. Luego ponga una resistencia de potencia de 10 vatios (calcule el valor de modo que extraiga una corriente similar a su carga real) entre la salida del regulador y las cosas de tierra y alcance para ver si todavía se ven bien. Esto prueba el regulador descargado y completamente cargado. Puede agregar pruebas para media carga, carga por pulsos, etc. si no confía en el regulador o si desea comprender mejor su comportamiento.
Una vez que crea que el regulador puede hacer su trabajo, intente conectar la carga real y no la batería. Tal vez primero agregue un fusible entre el regulador y cargue por si acaso. Si el regulador puede ejecutar la carga correctamente con la batería fuera del circuito, intente volver a agregar la batería, con la resistencia de límite de corriente.