Đình Kiều Sơn tọa lạc trên nền đất cũ phố Kiều Sơn, tại một khu đất cao ráo ở phía Tây Bắc của phường Đằng Lâm, với khuôn viên rộng và thoáng, có diện tích hơn 2000m2, cách trung tâm thành phố khoảng 3 km về phía Đông Nam. Đình vẫn hướng tây như xưa, khuôn viên Đình nằm liền kề với con phố Kiều Sơn và chùa An Tường. Trước mặt đình hướng về cửa Nam Triệu, nơi còn lưu dấu tích của trận chiến Bạch Đằng giang lịch sử năm 938 xưa kia, xa xa về bên tả là khu phố Văn Cao sầm uất, bên hữu gần con đường Lê Hồng Phong rộng, dài đẹp nhất thành phố Hải Phòng, sau lưng là khu dân cư đông đúc.

Đình Kiều Sơn xưa, tương truyền được khởi dựng vào thời Hậu Lê, thế kỷ 17, 18. Ban đầu, đình có quy mô kiến trúc khá bề thế, bố cục hình chữ Đinh (J), gồm 3 gian, 2 dĩ tiền tế và 1 gian hậu cung. Vật liệu làm đình bằng gỗ lim truyền thống, dựng theo thức chéo đao tàu góc, ván sàn lòng thuyền, theo mô típ truyền thống, thường thấy vào thời Lê Trung Hưng. Tuy nhiên qua khảo sát thực tế tấm bia đá tại chùa An Tường, một ngôi cổ tự nằm liền kề với khuôn viên đình cho thấy: Bia có tiêu đề “Điền thổ bi ký”, niên hiệu Gia Long nguyên niên (1802); nội dung có đoạn chép: Năm Gia Long nguyên niên (1802) “Cấu tác đình, đền, Phật tự, văn chỉ...”. Như vậy, cùng thời gian này đình, đền, chùa, văn chỉ của làng Kiều Sơn cũng được xây dựng. Mặt khác, tại khuôn viên Đình còn lưu giữ được một số chân tảng đá kê cột có đường kính 33cm, niên đại tạo tác thời Nguyễn thế kỷ 19, 20 và một tảng đá kè hiên, có kích thước dài 1,28m; rộng 0,55m, đường nét hoa văn tạo tác mang phong cách thời Nguyễn. Như vậy, thông qua nội dung văn bia cũng như một số hiện vật còn bảo tồn được tại di tích, có thể khẳng định đình Kiều Sơn được khởi dựng vào năm Gia Long nguyên niên (1802).

Năm 1990, đình Kiều Sơn được phục dựng, quy mô khá khiêm tốn, gồm: 1 gian, 2 chái, bố cục hình chữ nhất, làm bằng vật liệu hiện đại.

Năm 2017, đình được trùng tu lớn bằng nguồn kinh phí xã hội hóa, với số tiền hơn 5 tỷ đồng. Quy mô kiến trúc đình Kiều Sơn hiện nay khá bề thế, bố cục mặt bằng hình chữ đinh (J) truyền thống, gồm: 5 gian tòa đại đình và 1 gian hậu cung. Vật liệu dựng đình bằng gỗ lim Nam Phi, đường kính cột cái 40cm, khuôn viên đình rộng và thoáng, xung quanh xây tường bao bảo vệ.

Hiện nay, tại đình đình Kiều Sơn còn bảo tồn được khá nhiều hiện vật có giá trị như: bia Tự Đức, sắc phong, câu đối, bài vị, bát biểu, tượng thành hoàng … Đình Kiều Sơn là công trình kiến trúc văn hóa tâm linh, tín ngưỡng cổ truyền của cộng đồng dân cư địa phương. Đình tôn thờ vị anh hùng dân tộc Ngô Quyền, ngài đã có công đánh đuổi giặc Nam Hán xâm lược, bảo vệ, giữ gìn non sông đất nước khi hóa, hiển linh phù nước giúp dân, công lao to lớn của ngài mãi được người đời tưởng nhớ, phụng thờ. Trải qua thời gian thăng trầm của lịch sử, ngôi đình làng xưa chỉ còn lại trong ký ức của các cụ cao niên, nhưng với những hiện vật còn được bảo tồn và lưu giữ đến ngày nay cũng đủ minh chứng về sự tồn tại của ngôi đình xưa trên vùng đất này.