Una longitud de palabra limitada en un DSP provoca una cuantificación excesiva (es decir, un tamaño de paso de cuantización grande) de muestras de datos, lo que aumenta el piso de ruido y los coeficientes del filtro, lo que puede hacer que la respuesta real del filtro se desvíe de su valor teórico . El último efecto es más visible en el área de atenuación reducida de la banda de detención.
¿Es este el tipo de cosa que estás buscando?
Por ejemplo, en un filtro FIR, los coeficientes también definen la respuesta de impulso del filtro. Además, para cualquier filtro, la transformada de Fourier de su respuesta de impulso es su respuesta de frecuencia.
Es un ejercicio interesante dibujar una curva que representa la respuesta de frecuencia deseada y tomar su transformada de Fourier inversa para obtener la respuesta de impulso. En cualquier implementación real, tendrá que seleccionar un número finito de coeficientes, y tendrá que aplicar una función de "ventana" a esos coeficientes para limitar los efectos del truncamiento en la respuesta al impulso.
Tome la transformada de Fourier de estos coeficientes y vea cómo la respuesta de frecuencia resultante se desvía de la respuesta ideal con la que comenzó.
Ahora, cuantifique esos coeficientes a la precisión que realmente tendrán en el DSP. Tome otra transformada de Fourier y vea cómo esto ha modificado aún más la respuesta de frecuencia.
En algunos casos, los efectos pueden ser dramáticos. Hacer esto varias veces puede darle una buena idea del nivel de rendimiento del filtro que puede esperar para varios valores de longitud de filtro y ancho de palabra.
Para abordar los problemas de desbordamiento a los que Olin alude, normalmente escalaría los coeficientes durante la fase de diseño para que la ganancia máxima en la banda de paso del filtro sea la unidad. Sin embargo, esto puede crear errores de cuantificación adicionales en los coeficientes, haciendo que los más pequeños desaparezcan por completo. Si el hardware del DSP incluye, digamos, un campo de desbordamiento de 8 bits en el acumulador de MAC, puede establecer la ganancia de coeficiente en 256 en su lugar, y luego desplazar las muestras de salida a la derecha en 8 bits para obtener una ganancia general de unidad. / p>