San José vieja fue inaugurada en 1944 como parte de la Línea E, que entonces conectaba Constitución con General Urquiza. Servía como estación intermedia en el trayecto original de la línea.
En 1966, la Línea E fue redirigida hacia el centro de la ciudad para mejorar el flujo de pasajeros, extendiéndose hasta Bolívar. Esto llevó al cierre de San José vieja y su reemplazo por una nueva estación homónima.
Tras el cambio de traza, se mantuvo un servicio lanzadera entre Constitución y San José vieja con un único coche motor Siemens. Sin embargo, debido a la baja demanda, este servicio fue suspendido a fines de 1966.
Desde 1999, San José vieja se utiliza como taller de reparación y mantenimiento de trenes, conocido como Taller San José. Uno de sus andenes fue demolido para facilitar las tareas de mantenimiento.
La estación conserva dos murales originales: “Los lagos del Sur” y “Las cataratas del Iguazú”, creados por Cattaneo y Compañía en base a bocetos de Otto Durá. Estos murales están protegidos y cubiertos para su preservación.
San José vieja fue utilizada como locación para la película argentina “Moebius” (1996), representando estaciones ficticias como Dock Sud y Parque. En 2014, se inauguraron murales en la nueva estación San José en homenaje a esta película.
En 1957, se consideró reutilizar San José vieja como parte de la futura Línea F. Sin embargo, en 2006 se decidió construir un nuevo túnel bajo la Avenida Juan de Garay, dejando a San José vieja fuera de este proyecto.