He usado esta técnica antes (en 4 capas, no en 2, pero aún se mantiene), y encontré varias ventajas e inconvenientes al hacer esto. De lo que están hablando específicamente es de una isla de plano de tierra que no es GND, sino AGND, que está vinculada a GND en un solo punto, posiblemente a través de una pequeña impedancia. No estoy seguro de si la ATMEL tiene un pin AGND separado, pero nuestro dsPIC sí lo hizo. En este caso, no hay conexión sino un inductor entre VCC y AVCC, y la derivación nunca debe pasar de VCC a AGND, o AVCC a GND. Todas las señales analógicas están referenciadas a AGND (es decir, divisores de tensión, límites de suavizado, etc.). El objetivo es evitar que todos los circuitos digitales que generan ruido ensucien sus carriles analógicos.
En cuanto a la implementación de su técnica, solo están diciendo que la extensión de esta isla AGND abarcaría aproximadamente esta esquina del micro, así como toda la derivación entre AVCC y AGND y sus circuitos de medición analógicos. No tiene que extenderse hasta los puertos de entrada para mediciones de voltaje, etc., sino al menos a la resistencia del lado bajo de su divisor de voltios y su tapa antialiasing, así como a cualquier amplificador de entrada analógica y sus fuentes de alimentación. Por AVCC, me refiero a la VCC después de haber sido filtrada por el inductor.
Experimentamos con diferentes impedancias que conectaban GND y AGND, y encontramos que una resistencia de 10 ohmios funcionó bien para aislar el ruido en la tierra digital. Si la impedancia es demasiado alta, el micro no estará contento porque espera el mismo potencial de CC en las dos tierras. En nuestro caso, tuvimos un LDO de bajo ruido separado que alimenta el AVDD, y un convertidor de ruido ruidoso de alta potencia que alimenta los muchos dispositivos en el VDD digital. El aislamiento que lograría (para evitar que las ruidosas cosas digitales contaminen sus carriles analógicos) es menor con solo un inductor y una isla de tierra separada, como sugiere esta hoja de datos, pero es mucho más sencillo de implementar.
Una prueba simple para comprobar si está mejorando el ruido de su carril analógico es utilizar su ADC para convertir un valor de CC, y trazar las mediciones en bruto en un histograma o hacer un stdev en Excel. En un mundo perfecto / sin ruido, no tendría variación en esta medida, pero en el mundo real tiene una cierta variación proporcional a sus niveles de ruido.