Eso es solo un caso TO-3. Si miras hacia abajo, ves dos clavijas que sobresalen. Estos están claramente etiquetados en el diagrama que se muestra. El caso es la tercera terminal. Este tipo de paquete está diseñado para ser montado contra un disipador de calor. Para eso son los agujeros en los extremos. Generalmente, harías una conexión usando uno de los tornillos a través de los orificios.
En cuanto al uso de los terminales en un circuito, eso realmente debe estar en la hoja de datos. No deberíamos tener que decirte cosas muy básicas como esa.
Añadido
No tienes que tener que usar un disipador de calor solo para conectarte al dispositivo.
Sin embargo, si su disipación será de más de 1 W, querrá mantener el dispositivo fresco de alguna manera, de lo contrario, seguirá apagándose térmicamente. Usted dice que la entrada es de 17 V, la salida de 5 V, lo que significa que el regulador está bajando 12 V. En la salida de 1 A, disipará 12 W, lo que definitivamente requiere un disipador térmico.
Retrocede algunos niveles y explica lo que realmente quieres lograr. La regulación lineal de 17 V a 5 V a 1 A probablemente no sea la mejor respuesta.