La hoja de datos tiene su respuesta en la sección 24.5.2:
El voltaje de referencia para el ADC (VREF) indica la conversión
Rango para el ADC. Resultarán los canales de terminación única que excedan VREF
en códigos cercanos a 0x3FF. VREF se puede seleccionar como AVCC, interno
Referencia 1.1V, o pin AREF externo.
Una referencia de voltaje en un microcontrolador no es lo mismo que un límite de voltaje . El ADC usa la referencia de voltaje (en este caso) para realizar una comparación, y el microcontrolador parece estar diseñado para permitirle superar esta cantidad.
Nunca desea exceder el límite de voltaje (en este caso, sería AVcc, la fuente de alimentación analógica del ADC). Los microcontroladores tienen diodos de protección incorporados para guardar su tocino si eso sucede, pero en general, se debe diseñar el circuito externo para que no exceda el límite de voltaje. (Esta es una mejor práctica; en algunos casos, uno puede tener razones para ignorarlo).