Sí, puede utilizar cables de Ethernet CAT5 normales para otras cosas. Estos son cables con 4 pares trenzados separados en ellos, con una impedancia razonablemente controlada y un paso de torsión diferente para cada par, de modo que la interferencia sea el modo más común. Tenga en cuenta que esto no está utilizando Ethernet como señaló Wouter, solo el cableado comúnmente utilizado para implementar Ethernet. Ethernet en sí implica mucho más que solo el cable.
Ya que tiene varios pares trenzados en el mismo cable y estos pueden interceptarse entre sí en el modo común, desea enviar datos de manera diferente a través de cada par. Esto es también lo que hace ethernet. Hay controlador de línea diferencial y chips de receptor por ahí, lo que sería una buena idea usar si desea transportar señales digitales individuales de un extremo al otro. Si tiene señales que ya son inherentemente diferenciales, como CAN, por ejemplo, entonces use los pares directamente.
Busque cuál es la impedancia del cable CAT5 e intente terminar los extremos con eso. Sé que ethernet usa terminaciones de 50 Ω en el extremo receptor, pero no lo copiaría, ya que puede incluir otros compromisos.
Un problema del uso del cable CAT5 con conectores RJ-45 es que se verá como Ethernet y alguien lo conectará a un puerto Ethernet o conectará Ethernet a su dispositivo. Si va a usar un cable CAT5 para algo que no sea Ethernet, le recomiendo que use un conector que no sea RJ-45 en los extremos.