No puedes hacer esto. La arquitectura no está diseñada para funcionar a velocidades de reloj de más de 20 MHz, habrá un comportamiento indefinido.
Las fuentes de reloj externas no se multiplican dentro de los AVRs / ATtiny, solo se dividen. Los procesadores más avanzados como los procesadores ARM Cortex de la serie SAM de Atmel tienen circuitos PLL integrados para la multiplicación de frecuencias, lo que le permite darle una fuente externa de 12 MHz y multiplicarla hasta los 64,72, 120 MHz, etc. requeridos para el reloj maestro . Parece que la serie ATtiny x5 tiene un PLL interno con un multiplicador x8, pero eso es solo para "periféricos", que es todo lo que necesitas para los temporizadores y los periféricos PWM.
En los chips AVR que estás utilizando, si lees las hojas de datos no pueden funcionar en un reloj maestro de más de 20 MHz, e incluso eso lo está presionando si tienes un suministro de energía de baja calidad o condiciones de temperatura.
En el ATmega168 puede PWM a aproximadamente 250 kHz con un reloj maestro de 16 MHz (de fuente externa) usando el modo "PWM rápido" del chip, sacrificando la resolución de bits a solo PWM de 6 bits.
Necesita leer más sobre las fuentes de reloj, la división de reloj, cómo estos ATmegas manejan sus relojes y cómo se usan los "temporizadores" con el hardware PWM para crear estas señales de "operador" a altas velocidades que está buscando .
