Ngôi Đền vốn được khởi dựng từ thời Lê ( thế kỷ XVI). gồm 2 tòa:

Nhà tiền tế gồm 5 gian, khung gỗ xoan, kiến trúc theo kiểu chồng diêm, mái lợp ngói mũi. Phía sau là nhà hậu cung gồm ba bệ thờ lộ thiên, không có mái che. Đền Cao Sơn không chỉ là trung tâm văn hóa tín ngưỡng còn là nơi trú ẩn cho du kích, cán bộ cách mạng và là nơi học tập của nhân dân.Trải qua thăng trầm của lịch sử ngôi Đền xuống cấp và được nhân dân khôi phục lại nhiều lần.

Những năm gần đây, đời sống kinh tế phát triển, với truyền thống hướng về cội nguồn và nguyện vọng có nơi thờ thành hoàng khang trang đẹp đẽ hơn, được sự quan tâm của các cấp  ủy Đảng, chính quyền , nhân dân địa phương đã góp công sức tôn tạo và xây dựng lại Đền Cao Sơn trên nền đất cũ ngày càng khang trang tố hảo.

Đền có kiến trúc chữ Nhị gồm công trình Nghi môn, tiền tế và hậu cung được xây dựng theo kiến trúc cổ, tiền tế  3 gian, bộ khung gỗ lim chắc khỏe, cửa mở thông tiền hậu; hậu cung có 3 gian, kiến trúc kiểu “ một tầng hai mái tay ngai” bờ nóc đắp bức đại tự gồm 3 chữ “ Cao Sơn từ” hai bên xây cột trụ lồng đèn cánh phong. 

Hiện trong Đền còn lưu giữ một số tài liệu hiện vật như: bia đá, bát hương, hoành phi câu đối..có giá trị văn hóa lịch sử do cha ông để lại.  Căn cứ vào Luật di sản và giá trị của di tích, trên cơ sở xem xét thẩm định của Ban quản lý di tích tỉnh Bắc Ninh, ngày 19/12/2018 UBND tỉnh Bắc Ninh đã có quyết định cấp bằng xếp hạng là di tích lịch sử - Văn hóa cho Đền thờ Cao Sơn – xóm Nội.

Thừa ủy quyền của Chủ tịch UBND tỉnh Bắc Ninh, đại diện lãnh đạo phòng quản lý di sản văn hóa –Sở văn hóa thể thao và du lịch tỉnh Bắc Ninh và đ/c Hoàng Bá Huy – UVBTV thị ủy, phó chủ tịch TT UBND thị xã Từ Sơn đã  trao bằng xếp hạng di tích cấp tỉnh Đền Cao Sơn cho chính quyền địa phương và nhân dân xóm Nội, thôn Phù Lộc.

Phát biểu tại lễ đón nhận bằng di tích, lãnh đạo UBND xã Phù Chẩn đã giao nhiệm vụ cho nhân dân xóm Nội tiếp tục giữ gìn, bảo tồn và phát huy giá trị của di tích lịch sử văn hóa Đền Cao Sơn, góp phần xây dựng quê hương ngày càng giàu đẹp và văn minh.

Cũng nhân dịp này, nhân dân xóm Nội đã tổ chức nhiều hoạt động sôi nổi như: Lễ rước bằng di tích, dâng hương cùng nhiều hoạt động văn hóa, văn nghệ, thể dục thể thao tạo không khí sôi nổi nhân ngày hội làng.