Üngör, İstanbul'un Üsküdar semtinde 1880'de dünyaya geldi. Üngör'ün dedesi Osmanlı'nın saray orkestrası olan Muzıka-yi Hümayun bünyesinde "Fasl-ı Cedid"i tertip eden Santuri Hilmi Bey, babası Şekerci Hacı Bekir ailesinden Hüseyin Bey idi.
Dedesinin isteğiyle 7 yaşında çalmaya başladığı kemanda ustalaşan Üngör, 11 yaşına geldiğinde Muzıka-yi Hümayun'da senfonik orkestra üyeliğine seçildi.
Batı müziği öğrenimi görüp konser kemancısı olarak yetiştirilen Üngör, Vondra Bey'den keman, D'Aronda Paşa'dan müzik nazariyatı, solfej, klasik fon felsefesi ve tarih dersleri aldı.
İlk Türk konser kemancısı oldu
Eğitimini tamamladıktan sonra ilk Türk konser kemancısı olan usta sanatçı, Beşiktaş Askeri Rüşdiyesi'nde öğrenim gördü, resitallerde ve sarayın resmi davetlerinde sahne aldı.
Üngör, Fasl'ı Cedid ile Saffet Atabinen'in ilk defa düzenlediği senfoni orkestrasında başkemancı olarak görev yaptı.
Binbaşı rütbesiyle Saray Orkestrası şefliğini üstlenen sanatçı, repertuvarında çoğunlukla marşlar ve popüler parçalar bulunan orkestrayı modernleştirme çabasındaki Atabilen'i destekleyen sanatçılar arasında yer aldı.
Osman Zeki Üngör, Muzıka-yi Hümayun'da ve İstanbul Erkek Muallim Mektebi'nde öğretmenlik yaptı. Üngör, bağımsız kadrosu olan ilk Türk senfoni orkestrasıyla Union Française'de ilk defa saray dışında halka yönelik konserler verdi ve orkestra şefi olarak iki ay süren Avrupa turnesine çıktı.
Orkestra, ilk olarak Viyana'da, ardından Berlin, Dresden, Münih, Budapeşte ve Sofya'da konserler verdi. Program, bir Türk orkestrasının çıktığı ilk Avrupa turnesi oldu.
Üngör daha sonra Avrupa şehirlerinde de orkestralar idare ederek konserler verdi.
İstiklal Marşı'nı besteleyerek şöhret kazandı
Mehmet Akif Ersoy'un yazdığı İstiklal Marşı'nı 1922'de besteleyerek şöhretini artıran Üngör, Cumhuriyet'in ilanından sonra vazifesini Ankara'ya naklederek Ankara Riyaset-i Cumhur Musiki Heyeti şefi oldu.
Üngör, Musiki Muallim Mektebi'nin kurulmasında da önemli rol oynadı ve 1924'ten 1934'e kadar bu okulun müdürlüğünü yaptı. Türkiye'nin tanıtımını yapmak için 1926'da Avrupa sahilini boydan boya dolaşan Karadeniz Gemisi'yle gezecek orkestrayı oluşturdu ve 4 ay boyunca her limanda konserler verdi.
Başlıca eserleri, "İstiklal Marşı", "İlim Marşı", "Azmü Ümit Marşı", "Töre Marşı", "Türk Çocukları" ve "Cumhuriyet Marşı" olan ünlü besteci 1934'te emekliye ayrıldı ve 28 Şubat 1958'de İstanbul'da vefat etti.
Sanatçının cenaze töreninde özel izinle İstiklal Marşı çalındı. Üngör'den önce bu izin sadece Mehmet Akif Ersoy için verilmişti.