Ona je bila prva i jedina muzička škola u tadašnjoj Srbiji i danas je naša najstarija muzičko-pedagoška institucija, izuzetno značajna za razvoj muzičkog obrazovanja, vaspitanja i muzičke kulture kod nas.

Osnivač škole bilo je Beogradsko pevačko društvo, jedna od najvažnijih institucija kulture u Srbiji druge polovine XIX veka, a za članove Saveta Škole i nastavnike izabrani su Stevan Mokranjac, Stanislav Binički i Cvetko Manojlović.

Prvi direktor Srpske muzičke škole bio je Stevan Stojanović Mokranjac koji je tu dužnost vršio sve do svoje smrti 29. 09 1914.godine, a nastavu je u početku vodilo četiri nastavnika: Stevan Mokranjac – teorijski predmeti, Stanislav Binički – teorijski predmeti i solo-pevanje, Cvetko Manojlović – klavir, Jovan Ružička - violina, kojima su se kasnije pridružili i Jovan Zorko, violina, Emil Saks, violina, Vićeslav Rendla, violončelo, kontrabas, flauta, Milan Buzina, oboa i klarinet, Petar Konjović, istorija muzike i šef kamernog ansambla, kao i bivši đaci po povratku sa studija iz inostranstva Jelena Dokić, klavir, Stevan Hristić, Ivanka i Miloje Milojević, Jovan Mokranjac...

Delatnost Škole je tokom ratnih godina 1914-1918. skoro zamrla. Na zahtev okupacionih vlasti naziv škole bio je promenjen u Beogradska muzička škola, a za direktora je posle smrti Stevana Mokranjca postavljen Petar Krstić.

Između dva rata Škola je sticala sve veći ugled, interesovanje za muzičko školovanje u njoj bilo je sve veće, kao i potreba za javnim muziciranjem, tako da su učenici i profesori često priređivali koncerte koji su bili vrlo dobro posećeni. Naziv škole ponovo je bio Srpska muzička škola, a umesto Petra Krstića za direktora je postavljen profesor violine Jovan Zorko, koji će ovu dužnost obavljati sve do smrti 1942. godine.

Sa porastom broja učenika proširio se i nastavnički kolegijum profesorima instrumentalne i teorijske nastave, među kojima su značajna imena bili: Kosta Manojlović (angažovan 1919), Josip Slavenski (1924), Mihovil Logar (1927), Jovan Bandur (1931.), Predrag Milošević (1932.), Ljubica Marić (1939.), Svetolik Pašćan (1940.), Ćiril Ličar (1925), Ruža Vinaver (1927.), Olga Mihailović (1931), Aleksej Butakov (1937), Božena Bandur, Jela Kršić (1940), Marija Mihailović (1931) i drugi.

U čitavom međuratnom periodu profesori su, iako u nezavidnom materijalnom položaju i neodgovarajućim radnim uslovima, bili vrlo prisutni u muzičkom životu Beograda kao izvođači, kompozitori i muzički pisci. Prvi koncerti, prve muzičke kritike i prvi muzički udžbenici su potekli od profesora ove škole.

Prva posleratna godina - 1946. u vreme direktora Alekseja Butakova, od posebne je važnosti za Školu jer je tada ponela ime jednog od svojih osnivača, a to ime nosi i danas kao Muzička škola Mokranjac.