Theo truyền ngôn, ngôi đình còn gắn liền với chuyện các thần hiến linh giúp vua Đinh Bộ Lĩnh dẹp loạn 12 sứ quân, thu giang sơn về một mối. Khi thắng loạn, lập nghiệp đế vương, theo lời thề nguyện, vua đã về lại đây xây đến thờ Ngũ vị Đại Vương, cho đổi tên làng Ghềnh thành làng Phù Liệt (làng phù quốc giúp vua và chiến đấu oanh liệt với kẻ thù).

Cũng như nhiều ngôi đình được cho là xây dựng từ rất sớm, qua khảo sát, đình Dương Liệt được xây dựng vào đầu thời Nguyễn (1802- 1945) và được trùng tu vào đầu thế kỷ XX năm Nhâm Tý (1912) theo kiểu chữ Tam, gồm: đại bái, trung từ, hậu cung.

Tòa đại bái 5 gian 2 dĩ, đầu hồi bít đốc, mái lợp ngói mũi hài. Bộ vì kiến trúc kiểu phần trên chồng rường đầu sen, phần dưới kẻ chuyền. Đầu dư, đầu kê, hàm nghé gian trung tâm chạm rồng, hoa lá cách điệu. Các bức cổn chạm tứ lính, tứ quý như long quần, trúc hóa rồng, cá chép hóa rồng. Tại gian trung tâm đặt một nhang án thờ bằng gỗ từ thời Nguyễn được chạm trổ khá cầu kỳ ba mặt nhưng chạm đầu hổ phù, tứ quý, hoa dây, bao lên chạm hình rồng. Trên nhang án để đồ thờ tự như bát nhang, chân nến, hạc, phía trên treo bức đại tự bằng chữ Hán "Ngũ đế linh từ” hai bên đặt hai bàn thờ Hậu.

Tòa trung từ 1 gian, kiến trúc kiểu chồng diềm 2 tầng đầu hồi bít đốc.

Tòa hậu cung 3 gian kiến trúc kiểu vì kèo trụ trốn, vì được làm kiểu cụm rường đấu kê, có ba lối đi, cửa đi là cửa chính ở giữa, hai bên là hai cửa phụ. Trên phía nóc hiện còn giữ lại nhiều kiểu kiến trúc chạm khắc tinh xảo theo dạng mai hóa rồng rất mềm mại, uyển chuyển. Gian trung tâm tòa hậu cung đặt một khám thờ sơn son thếp vàng, mặt ngoài trang trí tứ quý, cuốn thư, diềm trên trang trí lưỡng long chầu nhật. Trong khám đặt 5 pho tượng đất thờ Ngũ vị Đại Vương ở tư thế ngồi, đầu đội mũ.

Đình Dương Liệt được xếp hạng là Di tích kiến trúc nghệ thuật quốc gia tại Quyết định số 78/2004/QĐ-BVHTT ngày 23-8-2004 của Bộ Văn hóa Thông tin.