Chùa Sùng Phúc nằm trên địa bàn thị trấn Thanh Nhật, huyện Hạ Lang, tỉnh Cao Bằng có thờ vi đồ Nguyễn Thị Duệ - nữ tiến sĩ duy nhất trong lịch sử khoa cử phong kiến Việt Nam, đỗ đạt tại Trường Quốc học Bản Thảnh Cao Bằng (triều nhà Mạc).
Chùa Sùng Phúc nguyên là Sùng Khánh được xây dựng vào thời vua Trần Nhân Tông (1279 - 1293) trên núi Pò Kiền sau làng Nà Ến, xung quanh có rừng cây cổ thụ bốn mùa xanh tươi. Vào thời Trần, Phật giáo hưng thịnh, chùa chủ yếu thờ Phật và thờ những người có công trấn giữ vùng biên ải.
Đến triều vua Lê Hiển Tông (1740 - 1786) niên hiệu Cảnh Hưng, chùa đổi tên thành Sùng Phúc và được dời xuống cánh đồng bản Huyền Du (nay thuộc thị trấn Thanh Nhật, huyện Hạ Lang, tỉnh Cao Bằng).
Chùa Sùng Phúc được xây theo kiểu hình chữ Nhị, xung quanh xây tường đôi bằng gạch chịu lửa, tường xây theo kiểu bít đốc. Chùa có cổng tam quan và hậu cung được xây dựng theo kiến trúc thời nhà Lê, hoa văn trang trí tương đối đơn giản.
Chùa hiện thờ đức Phật Quan Âm Bồ Tát, ở hậu cung có tượng Phật bà. Ngay khu bên trái thờ vị Thành Hoàng là ông Nguyễn Thành Vương, tức Nguyễn Đình Bá, quê ở thôn Bình Dân, phủ Khoái Châu, tỉnh Hưng Yên. Khi ông giữ chức Tri Châu Tư Lang, sử sách ghi nhận: Ông có công chiêu dân khẩn hoang lập bản được dân suy tôn là Tiên Công Thành Hoàng làng. Tiếp tục được sự tín nhiệm của quan trên và sự mến phục của nhân dân, ông đã giữ đến chức Đốc Đồng ở Cao Bằng. Đặc biệt, chùa còn thờ vi đồ Nguyễn Thị Duệ (người làng Kiệt Đặc, nay thuộc xã Văn An, huyện Chí Linh, tỉnh Hải Dương) - nữ tiến sĩ duy nhất trong lịch sử khoa cử phong kiến Việt Nam, đỗ đạt tại Trường Quốc học Bản Thảnh Cao Bằng (triều Mạc).
Tính đến nay, chùa đã được tu bổ lại nhiều lần và hằng năm mở hội Tam Tổng vào các ngày 14, 15, 16 tháng Giêng Âm lịch. Vào ngày chính diễn ra lễ hội (ngày 15 tháng Giêng), nhân dân trong tỉnh và du khách thập phương đến trẩy hội rất đông vui. Lễ hội chùa Sùng Phúc rất phong phú với nhiều nội dung như: Nghi lễ dâng hương, tổ chức rước kiệu Quan Âm Bồ Tát, rước kiệu Thành Hoàng… Ngoài ra, lễ hội còn có màn múa rồng, múa sư tử, kỳ lân… và các trò chơi dân gian đặc trưng của địa phương.
Không chỉ là nơi thờ Phật và những người có công trên mảnh đất vùng biên ải, chùa Sùng Phúc còn là nơi nhân dân tưởng nhớ, thờ phụng nữ Tiến sĩ Nguyễn Thị Duệ - một người phụ nữ tài đức trong xã hội phong kiến, bà chúa “Sao Sa” trong lòng nhân dân Việt Nam.