Tương truyền, chùa được xây vào thời Hậu Lê, khoảng thế kỷ XV - XVI. Trải qua nhiều lần trùng tu, mở rộng thế nhưng chùa vẫn giữ được những nét kiến trúc cổ.
Ngôi cổ tự hiện có tổng diện tích hơn 3.300m2. Tam quan, hạ điện, trung và thượng điện được bố trí thẳng hàng theo một trục chính, nền cao dần về phía sau. Ngay khi bước qua cổng chùa du khách sẽ được nhìn thấy bức tượng Di Lặc uy nghi.
Quy mô không đồ sộ nhưng các hạng mục của chùa được quy hoạch theo một tổng thể vừa có sự đăng đối, vừa uy nghi và nằm trong một khuôn viên khép kín.
Di tích chùa Yên Lạc mang đậm đặc điểm kiến trúc nghệ thuật thời Hậu Lê.
Năm 1994, chùa Yên Lạc được công nhận là di tích lịch sử - văn hóa cấp quốc gia.
Hạ điện có diện tích gần 40m2 xây tường bao quanh mái lợp ngói vảy mặt tiền gồm 4 trụ tạo thành ba cửa ra vào. Đây cũng là vị trí các tăng ni, phật tử lễ phật.
Ngay sau hạ điện là trung điện. Tại gian giữa đặt hương án sơn son thiếp vàng, trước hương án là bàn thờ gỗ. Tượng A Di Đà bằng gỗ mít đặt trên bệ xi măng cao 1,3 m đang ngồi thiền trên đài sen, hai mắt nhắm hai tay đan vào nhau.
Từ trung điện qua một sân nhỏ sẽ tới thượng điện.
Thượng điện là nơi lưu giữ tượng hình Thích Ca lúc sơ sinh đang ở thế đứng tay trái chỉ lên trời, 9 con rồng kết vào nhau tạo thành vòng bảo vệ và phun nước tắm. Và tượng A Di Đà bằng đồng cao 0,95m toạ trên đài sen. Phía sau có 3 tượng Tam Thế.
Đặc biệt, trong thượng điện hiện còn có bộ tranh “Thập Điện Diêm Vương”. Theo tín ngưỡng của phật giáo Á Đông, đây là các vị thần linh cai quản cõi chết và phán xét con người ở địa ngục căn cứ vào công hay tội họ đã tạo ra khi còn sống. Bộ tranh Thập Điện Diêm Vương tả những cảnh tượng khủng khiếp, nhằm cảnh báo các phật tử hãy cố gắng làm điều thiện, tránh điều ác. (Ảnh: Đại Đức Thích Hạnh Nhẫn - Trụ trì chùa giới thiệu về bức tranh).
.
Trong tiếng mõ thiền kinh, người dân Cẩm Nhượng cũng như phật tử khắp vùng miền vẫn luôn thành kính nơi cửa phật.
Chùa Yên Lạc còn là nơi để thế hệ trẻ hôm nay hiểu về lịch sử văn hóa
Ngôi chùa cổ kính Yên Lạc rợp bóng cây xanh cũng là nơi người dân trong và ngoài vùng tìm về chốn thanh tịnh và gửi gắm giá trị tín ngưỡng.
Đó cũng chính là nét đẹp văn hóa tinh thần của người dân miền biển nơi đây.