Kostel sv. Josefa postavil Abraham Parigi r. 1692. Fasádu nizozemského typu vytvořil Karmelitán Ignác od Ježíše z Lovaně. Kostel byl postaven spolu s klášterem pro bosé Karmelitánky na území bývalého biskupského dvora na Malé Straně. Nejvýznamnější představenou bosých Karmelitánek byla matka Elekta. Její tělo je uchováno na Hradčanském náměstí v kostele sv. Benedikta. (Karmelitánky byly po zrušení kostela a kláštera na Malé Straně za Josefa II. přesunuty na Hradčany.)

Průčelí kostela je dvouetážové, tvoří ho soustava vertikál a horizontál. Čtyři svazky polosloupů jsou na hlavicích zdobené věnci. Nad nimi je plastická římsa. Na atice jsou 4 podstavce, které zdobí orlí hlavy (síla), sochy a obrácené voluty. Vlevo je socha sv. Terezie, vpravo sv. Jan od Boha, uprostřed sv. Josef. Kovaný kříž se tyčí na vrcholu kostela, po jeho stranách jsou vázy. Nad malým portálem je velké okno a nad ním velký znak. Rakouský orel s mečem a žezlem s velkým L. Císař Leopold I. se účastnil položení základního kamene kostela. Dveře do kostela jsou krásně zdobené, zdobené tepanými ozdobami. Vpravo v předzahrádce, na stěně přilehlé školy je socha P. Marie. Všechny sochy vytvořil M.V. Jäckel.

Interiér kostela je příkladem barokní gotiky. Žebra klenby drží osm sloupových dvojic.Nad sloupy jsou hlavičky andělů. Nahoře je kupole s malými okny – s lucernou. Celý prostor kostela se zvedá nad eliptickým prostorem s výklenky. Postranní výklenky nejsou všechny stejně hluboké, jen ve čtyřech z nich jsou oltáře. Vedle dveří do kostela po levé straně jsou schody. Vítězný oblouk vede k vysokému kněžišti.

Na oltáři je velký obraz sv. Rodiny od Petra Brandla ze 17. století. Po stranách jsou dřevěné sochy sv. Terezie z Avily a sv. Jana od Kříže od M.V. Jäckela. Na oltáři je hejno andílků, nad oltářem je žehnající Bůh otec. Na malém obrazu je sv. Josef od Petra Brandla. Oltář je bohatě zdobený, sloupy jsou šroubovitě stáčené (tordované) mezi nimi jsou květy růží a listy. Tyto sloupy mají připomínat Jeruzalémský chrám. Vpravo od oltáře jsou dveře do prostoru pro Karmelitánky. Přísná klauzura zakazovala styk s veřejností, Karmelitánky musely při mši stát mimo kostel. Hostii přijímaly od kněze přes okénko. Na oltáři vlevo v nice je se socha sv. Václava, sv. Josefa, obraz sv. Tekly, putti a obraz sv. Framtiška Saleského od J. Hellicha. Nahoře na oltáři je Nejsvětější Trojice. Vpravo na oltáři je obraz Vidění sv. Terezie od P. Brandla z r. 1691. Socha vlevo je prorok Eliáš a vpravo sv. Eliseus. Roucha těchto soch jsou odlišná od rouch na oltáři vlevo, která jsou hladká. Nahoře nad oltářem je Madona se sv. Šimonem Stokem (první představený Karmelitánů), kterému předává škapulíř. Autorem všech uvedených soch a sošek je M.V. Jäckel.

Ostatní dřevěné sochy v kostele jsou již od Jana Jiřího Šlansovského (dílna M.V. Jäckela – sochy v kostele na Karlově). Je to sv. Anna Samatřetí a sv. Jan Nepomucký.

Na pravé straně vedle vchodu do kostela je malý obraz sv. Antonína Paduánského s českými světci – sv. Vojtěchem a sv. Prokopem, s mimořádným rámem od Jana Josefa Uplakera.

Svatostánek je stříbrný, lavice vyřezávané ze sklonku 17. století, podlaha původní, kazatelna renesanční. Pod chrámem je pohřebiště řeholnic, za chrámem byl klášter se zahradou (vše převzalo Ministerstvo financí po roku 1918).

Po bosých karmelitánkách působila v kostele a klášteře u sv. Josefa na Malé Straně kongregace Anglických pannen. Kongregace se věnovala hlavně vzdělávání a výchově dívek. Až po druhém vatikánském koncilu bylo tomuto společenství, jehož zakladatelkou byla Mary Ward v 17. století, umožněno, aby přijalo pro svůj život formu řeholních pravidel sv. Ignáce z Loyoly (Tovaryšstvo Ježíšovo). Komunita se nyní jmenuje Congregatio Jesu. Hlavní sídlo České provincie Congregatio Jesu je v Jižních Čechách, ve Štěkni u Strakonic. Dům slouží k ubytování dětí, mladých lidí a rodin, kongregace se věnuje péči o mládež. Sestry působí i na dalších místech naší republiky – věnují se pastoraci, katechezi, výchově a vzdělávání.

Karmelitáni – hora Karmel ve Svaté zemi, v níž měl jeskyni starozákonní prorok Eliáš. Rytíř Bertold z Kalábrie za křižáckých válek přebýval v jeskyni na Karmelu.

Znak: hora, tři hvězdy, kříž.