Les plans de la crypte furent confiés aux architectes Dalbé Viau et Alphonse Venne. La crypte est construite en béton, recouverte de calcaire provenant des carrières de Deschambault tandis que les armatures sont en acier. Les travaux commencèrent par la préparation du terrain en le dynamitant afin de l'aplanir. Lors du dynamitage, on s'aperçut de la dureté du roc et les autorités décidèrent d'abandonner l'idée de construire la crypte à même la montagne. On désigne cette église de nom de crypte à cause de sa voûte supportée par des arcs surbaissés et de sa position tout au pied de la basilique.  À l'intérieur, la crypte a l'apparence d'une grande voûte elliptique qui rappelle les anciennes cryptes.  Les dimensions de la crypte sont de 200 pieds de longueur, 120 pieds de largeur et 40 pieds de hauteur.  Sur sa façade extérieure on compte cinq (5) ouvertures : une porte centrale et quatre fenêtres.  De plus, deux autres entrées en saillie sont situées de chaque côté du corps principal.  Le toit sert de parvis à la basilique d'où on peut accéder par deux escaliers situés à côté des entrées en saillie.

En 1915, devant les foules immenses qui venaient régulièrement à l'Oratoire rencontrer frère André et prier saint Joseph, il est décidé de construire une grande église. Les plans prévoyaient une crypte et, au-dessus, une basilique. Les travaux débutèrent en 1916 d’après les plans des architectes Dalbé Viau et Alphonse Venne.

La crypte est bénite en 1917. Elle peut contenir environ 1 000 personnes et elle reçoit encore aujourd'hui les fidèles qui viennent participer aux offices quotidiens. On désigne cette église du nom de crypte à cause de sa voûte supportée par des arcs surbaissés et de sa position tout au pied de la basilique. 

L'Oratoire Saint-Joseph du Mont-Royal fait partie de ces grands temples qui, partout dans le monde, attirent des visiteurs en quête de recueillement, de recherche spirituelle, de découverte culturelle ou touristique. L'Occident chrétien compte un bon nombre de ces lieux. Trois seulement sont érigés au cœur de villes importantes : la basilique Saint-Pierre à Rome, le sanctuaire de Montmartre à Paris et l'Oratoire Saint-Joseph du Mont-Royal à Montréal.

Pourquoi construire un oratoire? Cette idée revient à un humble portier de collège, le frère André qui voulait un lieu de prière intime pour y célébrer saint Joseph, époux de Marie, qu'il vénérait de façon particulière. Malgré l'immensité de la basilique qui s'élève sur le mont Royal, on retrouve encore de nos jours entre ces murs cet aspect intime que le frère André souhaitait pour les fidèles. C'est dans ce lieu que se tiennent les grands rassemblements de pèlerins. Au cours de son histoire la basilique y a accueilli de nombreux visiteurs de marque notamment; le pape Jean-Paul II en 1984, Mère Teresa en 1988, le Dalaï-Lama en 1993 et le retable de Sainte-Thérèse de Lisieux en 2001. La basilique accueille régulièrement de grands rassemblements diocésains de prière et de célébration particulièrement en faveur de la paix.

La basilique peut accueillir jusqu'à 1 960 personnes assises. Les célébrations liturgiques sont habituellement accompagnées, le dimanche à 11 h, des Petits Chanteurs du Mont-Royal et des grandes orgues Beckerath. La pureté des lignes architecturales et la sobriété de la décoration de la basilique en font un lieu de prière, de paix et de réflexion qui facilite la démarche spirituelle de tous les croyants et des gens en quête de sens.