Al recurrir a un RTOS, generalmente estamos tratando con una aplicación que tiene muchas tareas simultáneas que deben programarse de manera óptima para que cada una de ellas cumpla sus plazos de entrega o comparta los recursos de forma segura. El marco RTOS que elija implementa un programador de tareas, y su trabajo (normalmente) es escribir estas tareas individuales con un determinado conjunto de propiedades (período, prioridad, etc.) y luego entregarlo al programador. Así que para la documentación, el enfoque que tomaría sería documentar cada tarea cuidadosamente.
La mayoría del software integrado y, por lo que sé, la mayoría de los RTOS no están escritos en un lenguaje orientado a objetos y, por lo tanto, no pueden beneficiarse de muchas cosas que están orientadas a diagramas de clase similares, por ejemplo.
Sin embargo, cuando documente sus tareas RTOS, cualquier diagrama que describa bien la tarea sería un gran beneficio. Me imagino que un diagrama de secuencia para cada tarea podría ser muy útil, por ejemplo. Junto con eso, puede especificar sus requisitos estrictos como su período / frecuencia, prioridad, cualquier recurso compartido que pueda usar, requisitos de prioridad, etc. También podría ser valioso documentar cómo ha configurado el RTOS y tal vez un estado. Máquina de su algoritmo de programación.
Sigue cualquiera de estos consejos que desees, no he jugado con cosas de RTOS desde mis días de universidad y nunca "documenté" el trabajo.