Đền Kim Quy tức là đền Rú Đất đã có từ xa xưa. Theo truyền thuyết, đây là vùng đất linh thiêng có đồi thấp tên chữ là Kim Quy (Rùa vàng) với diện tích gần 1ha. Cạnh đền có điện thờ thần Kim Quy rất linh thiêng. Nổi lên giữa vùng đồng bằng bốn phía có sông hói, làng mạc, bờ xôi ruộng mật… nên đồi Kim Quy đã tô điểm cho cảnh quan của làng Phúc Xá nói riêng v à xã Kim Lộc chung có một vẻ đẹp bình yên, sông núi hữu tình. Năm 1842 thời Thiệu Trị thứ 4 trong chuyến tuần tra ra Bắc, khi đi qua Hồng Lĩnh nhà vua hay chữ đã đi thuyền ngự giá ở đồi Kim Quy và để lại Sáu chữ Hán khắc trên tảng đá lớn trên đồi hình giống con rùa “Ngọc Sơn uy – Linh Giang vượng” . Đây là nơi thờ cúng tâm linh của  dân làng. Tại các buổi tế lễ hằng năm (vào ngày 12/6 âm lịch và dịp tết cổ truyền) đã giúp cho mọi người có dịp hàn gắn chuyện đời, chuyện làm ăn và cùng nhau phát huy những thuần phong mỹ tục, hợp tác xây dựng truyền thống tốt đẹp... Đây là một nét văn hóa có ý nghĩa quan trọng trong đời sống tinh thần của nhân dân làng Phúc Xá nói riêng cũng như xã Kim Lộc nói chung, góp phần tô thắm thêm truyền thống văn hóa của quê hương.