El diseño de PCB no es algo con lo que se pueda comenzar rápidamente. Lo primero que necesita es un paquete EDA (Automatización de diseño electrónico), ese es su CAD. Utiliza la EDA para diseñar sus esquemas (que para una placa de pruebas que puede haber hecho con papel y lápiz) y convertirlos en un diseño de PCB. Los EDA a menudo tienen sus formatos de archivo propietarios, pero para entregar su trabajo a una tienda de PCB hay un formato estándar: Gerber, que su EDA debería poder producir. Los archivos Gerber (uno para cada capa) junto con la información de perforación permiten que la tienda produzca su placa.
Al crear un diseño de tablero, tiene que trabajar con DRC (Design Rule Check), que verifica si no está violando ciertas reglas, como componentes o rastros demasiado cerca entre sí. Su EDA tendrá un conjunto estándar de reglas de diseño, pero debería poder cambiarlas según sus necesidades. Esto requiere algo de experiencia, al igual que crear un diseño en primer lugar. Si comienza con un diseño bastante complejo (muchos componentes, varios de ellos con un alto número de pines) es muy probable que se quede atascado al intentar colocar las piezas en la placa para que las redes sean enrutables. Muchas empresas de diseño tienen ingenieros de diseño de PCB que están haciendo precisamente eso. Eso es porque la experiencia es importante y con la experiencia viene la intuición. Un diseñador de diseño experimentado puede realizar una colocación de componentes casi óptima desde la primera vez, mientras que alguien con menos experiencia tendrá que volver a empezar varias veces.
Eagle parece ser un software de EDA popular por aquí, pero no lo he usado yo mismo, así que no puedo comentar sobre su facilidad de uso / curva de aprendizaje. Hay una versión gratuita con limitaciones; IIRC su tablero está limitado a 80mm x 60mm.