A história da Igrejinha de São Conrado começou com o lançamento de sua pedra fundamental em 1914, sendo que dois anos depois aconteceu a inauguração em 1916.
Sua construção foi financiada com os recursos do Comendador Conrado Jacob de Niemeyer que escolheu para padroeiro São Conrado, por ser este nome uma constante através de gerações em sua família.
A igrejinha, além de oficiar a cerimônia religiosa da missa uma ou duas vezes por mês, servia de ponto de encontro dos moradores e sitiantes da praia da Gávea e arredores.
O projeto de arquitetura, feito por um engenheiro dinamarquês amigo de Conrado Niemeyer, caracterizava-se por ser modesto, simples e "sui generis".
A igrejinha foi mantida durante muitos anos pelo legado de Conrado de Niemeyer e administrada pelos filhos. Pela morte destes, foi então doada à Mitra.
Foi na época do Cardeal Dom Jaime de Barros Câmara que a Igreja de São Conrado tornou-se Paróquia, quando muitos moradores do bairro se mobilizaram para sua primeira restauração.
Em 1996 tiveram conclusão as obras adicionais de reforma da antiga Igreja e de construção do Centro Comunitário, necessário para a continuidade dos trabalhos das pastorais da Igreja.