Rođen u jevrejskoj porodici 1794. godine, u Somboru, Josif Šlezinger bio je sin kantora jevrejske crkvene opštine. Po završetku osnovne škole, Josif odlučuje da se posveti muzičkom obrazovanju, te uči da svira violinu i orgulje.
Sa svojih 16 godina, svirao je u vlastelinskom orkestru u kapeli Alojza u Pešti, gde ujedno proširuje svoje znanje u muzici. U Vojvodinu, tačnije Novi Sad, vraća se 1819. godine, gde će se deset godina baviti komponovanjem i dirigovanjem.
U Šabac odlazi 1829. godine, gde je podučavao decu Jevrema Obrenovića, brata kneza Miloša. Dve godine kasnije, Husein-paša pozvao je Josifa u Carigrad, ali je ipak na poziv kneza Miloša Obrenovića, 1831. godine, otišao u Kragujevac, gde je osnovao Knjaževsko-srbsku bandu, prvi orkestar srpske vojne muzike.
Za kapelnika kneževe garde, Josif Šlezinger biva imenovan 1835. godine. Selidbom srpske prestonice 1841. godine iz Kragujevca za Beograd, seli se i Josif, dok je zakonskim aktom Kneževine Srbije, 1845. godine regulisan status vojnih muzičara.
Tokom svoje karijere, obučio je preko 1000 muzičara, napisao 100 marševa od kojih su najpopularniji „ruski“, „turski“, „logorski“ marš. Harmonizovao je više od 300 narodnih i gradskih pesama, zbog čega se smatra i prvim kompozitorom srpske narodne muzike. Sarađivao je i sa Joakimom Vujićem, Jovanom Sterijom Popovićem i Atanasijem Nikolićem, za čije je pozorišne komade aranžirao i komponovao scensku muziku.
Po povratku kneza Miloša Obrenovića na vlast, dobija čin gardijskog kapetana.
Bio je oženjen ćerkom zemunskog rabina, Hanom Fridenberger, sa kojom ima dva sina.
Josif je preminuo u Beogradu 1870. godine, a danas u Kragujevcu poznati kamerni orkestar nosi naziv „Šlezinger“.
