Si solo está interesado en señales en el rango de DC a 3 kHz, solo las señales por encima de 7 kHz tendrán un alias en esas.
Esto significa que necesitas un filtro con ...
una banda de paso a 3kHz
una banda de transición de 3kHz a 7kHz
una banda de parada desde 7kHz hacia arriba
Tenga en cuenta que esto no define la atenuación de 5 kHz y no es necesario.
La banda de parada debe tener suficiente atenuación para proteger sus señales. Si desea una fidelidad de 0.1% para sus señales de paso bajo, necesita una atenuación de 60dB en su banda de parada. Por lo general, le resultará más práctico diseñar un filtro elíptico que un Butterworth clásico o Cheby para obtener una atenuación adecuada de la banda de parada.
Ahora viene algo de sutileza, sígueme con cuidado.
¿Qué significa 'si solo te interesan las señales en el DC a 3kHz' realmente significa?
Si está analizando el paso de banda de señales de hasta 3kHz, por ejemplo, estimando la potencia en el ancho de banda de 2,5 kHz a 2,7 kHz, utilice un buen filtro digital para aislar la banda, o una FFT que sea equivalente, luego tenga una banda de transición desde 3kHz a 7kHz está bien.
Aunque permite que las señales en la banda de 5k a 7k tengan un alias por debajo de 5kHz, todavía están por encima de 3kHz, y de todas formas va a ignorar / rechazar esas señales.
Si, sin embargo, está trazando las muestras en una traza de alcance, entonces es posible que tenga una energía inadvertida por encima de 3 kHz que aún sea válida. Por ejemplo, si tiene una onda cuadrada de 1.1 kHz, tendrá armónicos a 3.3 kHz, 5.5 kHz, 7.7 kHz.
Ahora, el punto crucial es que el armónico de 3.3 kHz será coherente con el fundamental, y si lo trazas, se verá bien, incluso si el filtro ha suprimido un poco su amplitud. Sin embargo, el armónico de 5,5 kHz tendrá un alias de 4,5 kHz y será incoherente con el fundamental porque su frecuencia se ha reflejado a través de Nyquist y respirará dentro y fuera a medida que su fase cambie, y generalmente mira mal
Lo que esto significa es que, de todos modos, si vas a terminar haciendo uso de la energía en la banda de 3 kHz a 5 kHz (aunque hayas dicho en el OP que no lo estás), entonces tu banda de transición solo debería ir a 5kHz, no a 7kHz, por lo que no se permite ningún alias en la banda de DC a 5kHz.
Si su filtro tiene una banda de parada de 7kHz o de 5kHz, depende fundamentalmente de lo que pretenda hacer con sus señales. No hace falta decir que es mucho más difícil hacer un filtro con una banda de transición de 3k a 5k, que una banda de transición de 3k a 7k.