Ban đầu chùa Thầy chỉ là một am nhỏ gọi là Hương Hải am, nơi Thiền sư Từ Đạo Hạnh trụ trì. Vua Lý Nhân Tông đã cho xây dựng lại gồm hai cụm chùa: chùa Cao (Đỉnh Sơn Tự) trên núi và chùa Dưới (tức chùa Cả, tên chữ là Thiên Phúc Tự). Đầu thế kỷ 17, Dĩnh Quận Công cùng hoàng tộc chăm lo việc trùng tu, xây dựng điện Phật, điện Thánh; sau đó là nhà hậu, nhà bia, gác chuông. Theo thuyết phong thủy, chùa được xây dựng trên thế đất hình con rồng. Phía trước chùa, bên trái là ngọn Long Đẩu, lưng chùa và bên phải dựa vào núi Sài Sơn. Chùa quay mặt về hướng Nam, trước chùa, nằm giữa Sài Sơn và Long Đẩu là một hồ rộng mang tên Long Chiểu hay Long Trì (ao Rồng). Sân có hàm rồng.
Phần chính của chùa Thầy gồm ba tòa song song với nhau gọi là chùa Hạ, chùa Trung và chùa Thượng. Giữa chùa Hạ và chùa Trung có ống muống nối với nhau, tạo thành thế hạ công thượng nhất.
Chùa Hạ là nhà tiền tế, bày các tượng Đức Ông, Thánh hiền. Ống muống để tượng Bát bộ Kim Cương. Chùa Trung bày bàn thờ Phật, hai bên có hai tượng Hộ pháp, tượng Thiên vương. Chùa Thượng hay chùa trên tách biệt hẳn, ở vị trí cao nhất, biển đề Đại hùng Bảo điện, đồng thời là nhà thánh, để tượng Di Đà tam tôn, tượng ba kiếp của thiền sư Từ Đạo Hạnh, tượng cha mẹ Từ Đạo Hạnh.
Xung quanh chùa có hai dãy hành lang, phía sau có lầu chuông, lầu trống.
Phía trước chùa là một sân rộng nhìn ra hồ Long Chiểu, tạo thành hàm của rồng trước trồng hai cây gạo, nhưng hiện tại hai cây gạo đã chết, được thay bởi cây đa. Từ sân này có hai cầu là Nhật tiên kiều và Nguyệt tiên kiều nối sang hai bên, tạo thành hai râu rồng. Hai cầu này do Phùng Khắc Khoan xây vào năm 1602. Cầu Nhật Tiên nối sang một hòn đảo nhỏ, trên đảo có đền thờ Tam phủ. Cầu Nguyệt Tiên nối vào đường lên núi.
Giữa ao Long Chiểu có thủy đình là viên ngọc giữa miệng rồng. Đây cũng là nơi diễn ra trò múa rối nước. Từ Đạo Hạnh được cho là ông tổ của hình thức biểu diễn dân gian này.
Chùa thầy có truyền thống nghìn năm về văn hóa. Nơi đây đã sinh ra Trạng Bùng Phùng Khắc Khoan, Phan Huy Ích, Phan Huy Chú làm sáng danh lịch sử nước nhà. Tiếp theo truyền thống quê hương, Câu Lạc Bộ Văn Nghệ thuật Sài Sơn đang tập hợp những người con yêu văn hóa, thơ ca và đã xuất bản nhiều tập thơ, với sự cho phép của nhà xuất bản Hội Nhà Văn. Núi Thầy là ấn phẩm của CLB Văn học Nghệ Thuật Sài Sơn. Đây là những tác phẩm của của những người con Quê hương Sài Sơn, mang trong mình hồn cốt của một vùng quê giàu truyền thống văn hóa. Hiện nay, các tập 1, 2, 3, 4 của Núi thầy đã được xuất bản