El problema es que este interruptor no está diseñado para dispararse rápidamente al 120% de su corriente nominal. Considere el gráfico a continuación:
Es bastante claro, tanto gráficamente como con la información en las tablas, que el interruptor no se disparará durante al menos una hora a 60A.
Si está tratando de limitar la corriente de sus LED continuamente, un interruptor automático no es el enfoque correcto. O bien necesitas una resistencia limitadora de corriente o algún tipo de control activo, y de cualquier manera tendrás que disipar el exceso de energía en forma de calor. Si todo lo que está tratando de hacer es agregar protección al circuito contra fallas, considere un fusible de acción rápida o simplemente un disyuntor más adecuado.
En cuanto al comportamiento extraño que vio con los LED, mi mejor estimación es que su fuente de alimentación estaba tratando de compensar una condición de sobretensión o sobrecorriente, y estaba reduciendo la corriente o la tensión respectivamente.