Tháng 6/1964 thực hiện chủ trương cải cách các trường sư phạm để phục vụ nhiệm vụ phát triển giáo dục, xây dựng đất nước mà nhiệm vụ trọng tâm là tập trung vào công tác bồi dưỡng CBQLGD, Bộ Giáo dục ( nay là Bộ Giáo dục và Đào tạo) đã thành lập tại các tỉnh, thành phố Trường Bồi dưỡng giáo viên và Cán bộ quản lý giáo dục.
Đến năm 1966 Bộ Giáo dục quyết định thành lập Trường Lý luận nghiệp vụ giáo dục trực thuộc Bộ để thực hiện nhiệm vụ bồi dưỡng cho CBQLGD
Năm 1976 Trường Cán bộ quản lý Giáo dục được thành lập theo quyết dịnh số 190/TTg ngày 01/10/1976 của Hội đồng Chính phủ. Năm 1990 Bộ Giáo dục và Đào tạo được thành lập trên cơ sở hợp nhất Bộ Giáo dục với Bộ Đại học, THCN và Dạy nghề thì Trường Cán bộ quản lý Giáo dục và Đào tạo được thành lập trên cơ sở hợp nhất Trường Cán bộ quản lý Giáo dục, Trường Cán bộ quản lý Đại học, THCN và Dạy nghề và Trung tâm nghiên cứu tổ chức quản lý và kinh tế học giáo dục. Năm 2006 Học viện Quản lý giáo dục được thành lập trên cơ sở Trường Cán bộ Quản lý giáo dục và Đào tạo, bắt đầu thời kỳ mới.
Học vịên hiện tại tập trung đào tạo 3 chuyên ngành : Quản lý giáo dục, Tâm lý học , Tin học ứng dụng . Nghiên cứu các đề tài, đề án về khoa học giáo dục.