Rođen je u Čurugu, 1883. godine, a potekao je iz ugledne učiteljske porodice. U Somboru je pohađao Preparandiju, koju je završio 1902. godine, a u ovoj školi stekao je i prva muzička znanja. Njegov talenat probudio je Čeh, profesor Blažek. Već tokom školovanja u Preparandiji, Konjović je napisao i komponovao prvu operu, koji je nazvao „Vilin veo“. Ova opera izvedena je sa horom škole i orkestrom Petrovaradinske pukovnije, tokom maturantske godine Petra Konjovića. Upravo je on dirigovao ovom praizvedbom.
Nakon završetka školovanja, Konjović se otisnuo put Bečeja, gde je radio kao učitelj, a ubrzo potom obreo se u Pragu. Tamo je studirao teoretske predmete na Konzervatorijumu, a od 1906. godine vraća se u rodne krajeve, gde postaje nastavnik muzičkog u dve škole, u Zemunu i Beogradu.
Odmah po izbijanju Velikog rata, Petar Konjović se vraća u Sombor, gde će boraviti naredne tri godine, do prelaska u Zagreb. U Zagrebu je imao prvi koncert, a ujedno je izvedena i njegova opera „Vilin veo“.
Tokom 1918. godine, postavljen je za somborskog delegata na Velikoj narodnoj skupštini u Novom Sadu. Takođe, bio je deo Velikog narodnog saveta, odnosno Skupštine, a odmah po proglašenju Kraljevine Srba, Hrvata i Slovenaca, otisnuo se na muzičku turneju po čitavoj teritoriji Evrope. Osim muzičkog, ova turneja je imala i političko-propagandni značaj, pošto je služila afirmaciji novostvorene države.
Tokom svoje bogate i uspešne karijere, Konjović je radio kao inspektor za muziku u Beogradu, kao direktor Opere u Zagrebu, zatim kao upravnik nekoliko pozorišta širom Jugoslavije tokom tridesetih godina, da bi postao i profesor na Muzičkoj akademiji u Beogradu, a od 1945. do 1947. bio je i rektor ove ustanove. Naposletku je, tokom pedesetih godina, bio upravnik Muzikološkog instituta Srpske akademije nauka, a titulu akademika dobio je 1946. godine.
Komponovao je dramska, vokalna, kamerna, orkestarska i klavirska dela, a među najpoznatija spadaju opere „Knez od Zete“, „Miloševa ženidba“, „Koštana“, „Otadžbina“ i „Seljaci“. Pored toga, radio je prevode opera čuvenih kompozitora kao što su Musorski, Vagner i Debisi.
Pored toga, bavio se i pisanjem članaka, kako muzičkih, tako i pozorišnih i još češće političkih i društveno angažovanih. Ubraja se među najznačajnije srpske kompozitore.
Iako je dugo vremena živeo u Beogradu, gde je i umro 1970. godine, prema njegovoj poslednjoj želji, sahranjen je u Somboru u porodičnoj grobnici.
Petar Konjović upamćen je u somborskoj istoriji, a Osnovna i srednja muzička škola iz ovog grada nosi upravo njegovo ime.
