音楽取調掛は明治十八年（一八八五）二月九日に音楽取調所と改称され、上野公園内東四軒寺跡文部省用地内（現在の芸大音楽部構内）の外人教師館を改築して移転、十二月には再び音楽取調掛となり、明治二十年（一八八七）十月五日、文部省告示第九号により東京音楽学校となった。

東京音楽学校への改称は東京美術学校等と同時に告示されたものではあるが、これに先立って伊沢修二らは、次の建議書を文部大臣森有礼（一八四七～一八八九）に提出している。（※3）

（前略）然ルニ音楽其他優美ニ属スル芸術ヲ授ケ、実地演技ニ堪フへキ人物ヲ養成スル所ハ全国中未タ一モ其設立ヲ見サルニ非スヤ、是レ吾国民ノ一大不幸ニシテ、亦社会ノ欠典ト云フへシ、故ニシテ我省音楽学校ヲ設立シ、優等ノ芸術家ヲ養成シ、且最良ノ音楽ヲ拡張普及スルニ非スンハ、啻社会ノ大勢ニ妨クルノ憂ナシト云フ可ラス、依テ吾輩は速ニ一個ノ音楽学校ヲ設立セラレンコトヲ閣下ニ建議ス。（後略）

かくして音楽学校の整備は進捗したが、明治二十四年六月校長伊沢修二は突然非職となり、二十六年六月東京音楽学校は高等師範の附属音楽学校に格下げされる。（※4）その後、専門学校として再び独立したのは明治三十二年四月であった。

音楽教育の方向を模索する学校当局や、財政難を理由に不統一な音楽行政に終始する政府当局の渦中にあって、東京音楽学校の存在は決して安泰なものではなかった。

帝国大学をはじめ各官立学校に於て外人教師を招聘するなど潮の如く西欧化の波が到来する中で、東京音楽学校はようやく小さな櫂で西洋音楽の本流に漕ぎ出すことになる。明治三十年代はその存廃が問われる試練の時であった。