Al usar AD9850, puedo ver una onda sinusoidal muy limpia y suave, pero AD9833 no es el caso. En AD9833, se pueden ver varios pasos en la salida que empeora en las frecuencias más altas (> 2MHz). La salida parece que el DAC nunca pasa por un proceso de suavizado. Quiero saber si esto es una naturaleza inherente de este dispositivo o si me falta algo. ¿Debo usar un filtro de paso bajo para eliminar estos pasos? La salida se ve así en 2MHz: 
Parece que su forma de onda tiene 23 relojes en dos ciclos. Como el reloj se ejecuta a 25MHz, esto se divide por \ $ \ frac {23} {2} \ $ = 2.273MHz.
Este es el problema en pocas palabras. Si está satisfecho con ese dispositivo DDS, debe aplicar un filtro de paso bajo de orden pronunciado que incorpore un filtro de compensación sinc. En el muestreo de 25MHz, la sintonía de "calidad" de frecuencia más alta que obtendrá será de unos 8MHz y esto requeriría algo así como un filtro de paso bajo de orden octavo para suavizar las grietas.
El filtro de compensación sinc se debe a que el contenido fundamental de una forma de onda digitalizada se reduce a medida que se acerca a la frecuencia de nyquist; Los armónicos aumentan de tamaño y RMS se mantiene igual, pero la amplitud de onda sinusoidal fundamental se reduce. Aquí es un buen artículo de Maxim titulado "aplanar la nota de la aplicación de respuesta de frecuencia DAC 3853".
Por supuesto, el mayor problema es cuando necesitas una onda cuadrada o una onda triangular, y quizás la única solución sea un dispositivo más rápido como el que mencionaste, el AD9850.
Sí, esto es normal para un DDS si la frecuencia de salida se acerca a la frecuencia del reloj de entrada. Se puede eliminar mediante filtrado.