1、1978年我國恢復研究生教育制度，同年我院開始招收碩士研究生，研究生教育的相關工作由隸屬教務處的研究生科負責管理。1981年我院被國務院批準為首批具有博士、碩士學位授予權單位，1999年學院成立研究生部。研究生部負責學院研究生的招生、培養和學位授予等相關工作。
2、我院涉及研究生教育的部門包括作曲系、音樂學系、指揮系、鋼琴系、管弦系、聲樂歌劇系、民樂系、音樂教育系、音樂科技部、交響樂學院以及國家人文社會科學重點研究基地——中央音樂學院音樂學研究所。目前擁有博士生導師58人，碩士生導師227人;招收培養音樂學、作曲與作曲技術理論、音樂教育、音樂科技等19個研究方向的博士研究生，和音樂表演藝術、音樂學、作曲與作曲技術理論、音樂教育、音樂科技等61個研究方向的碩士研究生;開設100多門研究生課程。
3、目前，我院可以招收、培養多層次的博士、碩士研究生，包括統招生、高校教師在職攻讀碩士學位研究生(2010年已停招)、藝術碩士專業學位研究生;同時接受同等學力申請碩士學位;此外，還面向海外招收培養港澳臺地區及外籍留學研究生。截止2010年7月，已培養碩士研究生884人，博士研究生135人，是國內培養音樂藝術高層次人才最多的院校。目前各類在校研究生共計552人。中央音樂學院畢業研究生以其全面的知識素養、扎實的專業技能、突出的創作實踐能力，受到用人單位的廣泛贊譽和好評。
4、隨著社會的需要，研究生教育蓬勃發展，研究生部各項工作與時俱進，目前正在進一步充實機構，規范管理。