Lệ Tảo trước khi có đình đã có miếu thờ thần Bạch Mã từ rất sớm. Theo các dấu tích còn sót lại, đình được xây dựng vào đời Vua Tự Đức (1847-1883) ngôi đình này xưa gọi là đình Nam vì nằm ở phía Nam làng, là ngôi đình xây dựng đầu tiên ở làng Lệ Tảo. Thời phong kiến làng Lệ Tảo có 2 giáp là giáp Bắc, giáp Nam. Giáp Bắc là nơi sinh sống chủ yếu của dòng họ Phạm Văn. Giáp Nam là nơi sinh sống chủ yếu của họ Đặng Quang, Phạm Hữu, Đặng Văn, Nguyễn. Sau này dân làng xây dựng thêm ngôi đình Bắc và đến những năm 1950 ở giữa làng còn dựng thêm ngôi đình (gọi là đình công) cũng thờ thần Bạch Mã. Do thăng trầm của lịch sử, những ngôi đình này hiện không còn, duy nhất còn lại là đình Nam hay còn gọi là đình Lệ Tảo.
Đình thờ nhị vị Đại Vương là Bạch Mã (Ngựa Trắng) và Bạch Dê (Dê Trắng) còn gọi là Bạch Thiên Quan Cán Trúc chi thần, tín ngưỡng thờ thần Long Đỗ của vùng đất Kiến Thụy xưa.Đình Lệ Tảo không những là chốn tâm linh mà còn là chứng tích hào hùng trong tiến trình phát triển của làng. Nơi đây đã từng là nơi tụ hội của các sĩ phu yêu nước trong phong trào Cần Vương chống Pháp (1885- 1896). Trong hai cuộc kháng chiến chống Pháp và chống Mỹ, đình Lệ Tảo còn để lại những dấu tích kiên cường, bất khuất của người dân địa phương.