De kerk is gebouwd in 1894 door de architect J. Th. J. Cuypers jr, bekend van de neo-gotische kerken die hij ontworpen had.
De kerk is gebouwd als een driebeukige basiliek met zeven traveeën en een hoge toren aan de voorzijde en een zevenzijdige koorsluiting aan de achterzijde. Aan weerszijden van het priesterkoor bevinden zich de sacristie en de bijsacristie, oorspronkelijk de catechismuskamer.

Pastoor Peters was  de eerste pastoor.
De parochie is deze eerste pastoor veel dank verschuldigd. De aankleding en verfraaiing van het sobere interieur gingen hem bijzonder ter harte.
De kerk werd o.a… verrijkt met zij-altaren, een doopvont, diverse beelden, een parketvloer in het priesterkoor een fraaie vloer in de kerk en gebrandschilderde ramen.

In 1904 werden door de parochianen de communiebanken aan de pastoor geschonken ter gelegenheid van zijn zilveren priesterfeest.
Bij het 12,5 jarig bestaan van het kerkgebouw in mei 1905 werd het hoogaltaar in gebruik genomen. In 1910 volgde nog het orgel en later bekostigde de pastoor nog uit eigen middelen de uitbouw van de pastorie, een stenen preekstoel en een orgelkast.  Als laatste werd ook het kruis in de triomfboog aangebracht.

De beschildering en beglazing werden uitgevoerd door Joan Collette, een leerling van Toorop..
Ook werden, naar ontwerp van dezelfde kunstenaar door een damescomité de linnen alben, altaarranden, communiekleden en de superplies voor de misdienaars vervaardigd, evenals de lopers op de altaren..



In 1953 werd de Mariakapel gebouwd, wederom een geschenk van de parochie.
Rond 1972 werd het voortbestaan van de kerk ernstig bedreigd door de hoge onderhouds- en exploitatiekosten. 
Daarom valt in 1975 het besluit tot verkoop en sloop van de kerk en de bouw  van een alternatieve kerkruimte in het parochiehuis aan de van Alphenstraat.

In 1976 werd door een aantal parochianen en anderen een werkgroep tot behoud van de kerk opgericht die uiteindelijk werd omgezet in de stichting vrienden van de Jozefkerk met als doel de kerk voor sloop te behoeden. Later ging het kerkgebouw in eigendom over naar een nieuw opgerichte stichting, de stichting behoud Jozefkerk. 
Vanaf toen huurde de parochie het gebouw van de stichting. Sinds 1998 is de kerk een rijksmonument en aldus  een beschermd gebouw.
Tegenwoordig is de Jozefkerk het eucharistische centrum van de fusieparochie St. Jacobus de Meerdere.