Giáo xứ Mang Sơn trước đây là một trong những giáo họ thuộc xứ Đồng Bào – Kẻ Bèo. Theo bút tích của Cha cố An-rê Viên Huyền Bảo, vốn là Cha phó Đồng Bào cũng là Cha xứ tiên khởi của Giáo xứ kể lại. Năm 1922, Giáo họ Mang Sơn cùng với 4 giáo họ là Quan Nha, Ỷ Quan, Văn Tiêu, Thận Tu được Bề trên Giáo phận nâng lên thành xứ Xép, độc lập với nhà xứ Đồng Bào:

“Nhà xứ Xép khi ấy là một đám đất rộng được năm miếng, hình lưỡi búa, chung quanh ao thật sâu, trên có cái nhà phòng sáu thước lòng, ba gian, mỗi gian bốn thước rưỡi, mối mọt quá phép, và một nhà các thầy bốn gian, đã thượng cổ, còn thêm cái nhà bếp trống thiên trống địa, trong nhà như ngoài sân, không hề có hơi khói, lại thêm hôi hám, rêu mọc khắp mọi nơi…”

Nhờ ơn Chúa và công lao của Cha cố An-rê, cũng như các bậc tiền bối, khuôn viên nhà xứ dần dần được mở rộng, ngôi thánh đường được xây dựng vào năm 1932 có chiều dài 33m, chiều rộng 13m và chiều cao tính cả tháp lá là 21m.

Kể từ đó trở đi, ngôi thánh đường trở thành ngôi nhà chung của Giáo xứ, gắn liền với người Mang Sơn từ lúc sinh ra cho đến khi nhắm mắt lìa đời, đọng lại trong tâm trí mỗi người bao kỷ niệm tốt đẹp thân thương: Nhiều thế hệ đã được sinh ra làm con Chúa và Hội Thánh nhờ Bí tích Rửa Tội, nhiều gia đình đã được thiết lập nhờ Bí tích Hôn phối, nhiều lời kinh nguyện và nhiều thánh lễ đã được cử hành, nhất là Thánh lễ An táng khi hoàn tất cuộc đời dương thế tại ngôi thánh đường này.

Trải qua bao thăng trầm của lịch sử, chiến tranh bắn phá cùng với sự thiếu vắng các linh mục chăm sóc, ngôi thánh đường Giáo xứ xuống cấp trầm trọng.

Ngày 07 tháng 12 năm 2020, Cha xứ Giu-se Nguyễn Văn Hữu đã được Đức Tổng Giám mục Giu-se Vũ Văn Thiên cử về coi sóc Giáo xứ chúng con. Nhận thấy ngôi thánh đường cần phải trùng tu lại, Cha đã trình lên Đức TGM Giu-se và đã được Đức Tổng chấp thuận cấp phép.

Ngày 18 tháng 07 năm 2021, Giáo xứ bắt đầu trùng tu cho đến đầu năm 2024, tất cả mọi công việc cũng đã hoàn thành và đưa vào sử dụng. Tổng kinh phí cho việc trùng tu và mua đất để mở rộng khuôn viên thánh đường là trên dưới 8 tỷ đồng. Tất cả đều là nhờ ơn Chúa và lòng quảng đại dâng tiến, đóng góp của người dân nghèo trong và ngoài Giáo xứ.

Hiện nay, giáo xứ chúng con có tổng số nhân danh là 1.828 người. Riêng ở sở tại là 1.117 người, nhưng chỉ có 540 người là đang sinh sống tại Giáo xứ (đa số là người già và trẻ em). Về ơn gọi tu trì: Giáo xứ hiện có 4 linh mục, 4 thầy chủng sinh, 3 thầy dòng và 9 nữ tu. Ngoài ra, khi đi làm ăn sinh sống ở các tỉnh thành, đặc biệt là vùng Tây Bắc, người dân Giáo xứ vẫn sống đức tin, tích cực tham gia Ban Mục Vụ, mở mang các giáo điểm…

Trong niềm hân hoan và tạ ơn, ngày 13/8/2024, Đức Tổng Giám mục Giu-se Vũ Văn Thiên về dâng Thánh lễ tạ ơn đại trùng tu ngôi thánh đường Giáo xứ.