Chùa Thanh Mai được xây dựng vào năm 1329 do Thiền sư Pháp Loa tôn giả - vị tổ thứ hai của Thiền phái Trúc Lâm sáng lập và đây cũng là nơi Thiền sư Pháp Loa tôn giả tu hành. Trải qua bao thăng trầm của lịch sử, chùa đã bị hư hại nặng. Từ năm 1980 trở đi, chùa đã được khôi phục dần dần theo từng hạng mục.
Căn cứ theo tấm bia “Thanh Mai Viên Thông tháp bi”, du khách khi đến chùa Thanh Mai sẽ có dịp biết về Thiền sư Pháp Loa, nguyên là Đồng Kim Cương sinh ngày 7 tháng 5 năm Giáp Thân, niên hiệu Thiệu Bảo thứ 6 (1284) tại thôn Đồng Hoà, hương Cửu La, Nam Sách Giang, nay là xã Ái Quốc, huyện Nam Sách, tỉnh Hải Dương.
Theo sử sách ghi lại, năm 1304, Thiền sư Pháp Loa đã xuất gia theo Điều Ngự đầu đà Trần Nhân Tông và trở thành vị tổ thứ 2 kế thừa sự nghiệp của Thiền phái Trúc Lâm. Có thể nói, Thiền sư Pháp Loa đã có đóng góp rất lớn cho Thiền phái Trúc Lâm, đó là: Ngài đã đào tạo ra cả một thế hệ học trò rất xuất sắc - khoảng trên 30 người; nuôi dạy hơn chục nghìn các tăng ni, phật tử; đúc ra rất nhiều các pho tượng; xây dựng hàng trăm chùa tháp, tiêu biểu là chùa Thanh Mai, chùa Côn Sơn và Viện nghiên cứu Phật giáo Quỳnh Lâm…
Thiền sư Pháp Loa viên tịch vào ngày 3 tháng 3 năm 1330. Theo di chúc của ông, các phật tử đã đưa xá lỵ của ông về đặt tại Viên Thông Bảo Tháp nằm phía sau chùa Thanh Mai. Cảm mến công đức của Thiền sư Pháp Loa, vua Trần Anh Tông đã sắc phong cho ông danh hiệu Đại Tuệ Tịnh Tri Đức Thiền sư.
Năm 1992, chùa Thanh Mai đã được Bộ Văn hóa, Thông tin công nhận là di tích lịch sử văn hóa cấp Quốc gia.
Nếu có dịp về Hải Dương, mời du khách ghé thăm chùa Thanh Mai. Đến đây, ngoài cơ hội được chiêm ngưỡng cả một hệ thống công trình kiến trúc độc đáo như: Viên Thông Bảo Tháp - xây dựng năm 1334 và 7 ngôi tháp sư, trong đó có tháp Phổ Quang - xây dựng năm Chính Hoà 23 (1702), tháp Linh Quang - xây dựng năm Chính Hoà 24 (1703) cùng các pho tượng phật có hình dáng rất đẹp như: Pho tượng cửu long, đệ nhất tam tổ Trúc Lâm Trần Nhân Tông, đệ nhị Thiền sư Pháp Loa và đệ tam Huyền Quang..., du khách còn được tham dự Lễ hội chùa Thanh Mai (được tổ chức từ ngày 1 đến ngày 3 tháng 3 âm lịch hàng năm) với nhiều nghi lễ tôn nghiêm như: giảng kinh, mộc dục, chay đàn,...