La parte clave de la pregunta es que es una "lectura promedio (con rectificación a gran escala)" en lugar de un verdadero cálculo de RMS. Lo que esto significa es que la señal de entrada se rectifica y el valor promedio se multiplica efectivamente por una constante, suponiendo que la forma de onda de entrada era una sinusoide pura.
La definición de RMS para una forma de onda periódica es:
$$ V_ {RMS} = \ sqrt {\ frac {1} {T} \ int_0 ^ T v ^ 2 (t) dt} $$
El valor promedio con rectificación a escala completa sería:
$$ V_ {avg} = \ frac {1} {T} \ int_0 ^ T | v (t) | dt $$
Entonces, la proporción de estos para una onda sinusoidal pura sería el factor de multiplicación \ $ k \ $ integrado en el medidor. Es decir:
$$ \ begin {eqnarray}
k & = & \ frac {V_ {RMS}} {V_ {avg}} \\
k & = & \ frac {\ sqrt {\ frac {1} {T} \ int_0 ^ T v ^ 2 (t) dt}} {\ frac {1} {T} \ int_0 ^ T v (t) dt} \\
k & = & \ frac {\ sqrt {\ frac {1} {2 \ pi} \ int_0 ^ {2 \ pi} \ sin ^ 2 (t) dt}} {\ frac {1} {2 \ pi} \ int_0 ^ {2 \ pi} | \ sin (t) | dt} \\
k & = & \ frac {\ frac {1} {\ sqrt {2}}} {\ frac {2} {\ pi}} \\
k & = & \ frac {\ pi} {\ sqrt {8}} \\
k & \ approx & 1.11
\ end {eqnarray} $$
En otras palabras, el voltaje promedio rectificado medido se multiplicará por aproximadamente 1.11 para obtener el valor indicado.
Para responder a la primera parte de la pregunta, debe encontrar \ $ V_ {avg} \ $ para la forma de onda de diente de sierra, que ya ha hecho correctamente y encontró que es 5V.
Lo que hará el medidor entonces es multiplicar eso por 1.11 e indicará 5.55V (no 6.5V - su respuesta dada no es correcta, lo que probablemente fue la fuente de su problema).
Para determinar el porcentaje de error es simplemente comparar ese valor con el verdadero valor de RMS, que de nuevo, ha calculado correctamente como 5.77V.
$$ err = \ frac {5.55 - 5.77} {5.77} = -0.0381 = -3.81 \% $$
Entonces, el porcentaje de error es -3.81%, con el signo negativo que significa que el valor indicado es más bajo que el real. Una vez más, la respuesta dada simplemente no fue correcta.
Si esto es de un libro de texto, es posible que desee ver si hay erratas publicadas que corrigen eso. Si no, puede enviarle una nota al autor, aunque es demasiado tarde para usted, podría ahorrarle innumerables horas de frustración a los futuros estudiantes.