Ogirala lahir pada 10 September 1905 di Vijayawada, Andhra Pradesh dari pasangan Ogirala Janardhana Sharma dan Subbamma. Ia memulai kariernya sebagai aktor dalam Sri Venkateswara Mahatyam (1939), di mana ia memainkan peran Dewa Siwa. Debutnya sebagai sutradara musik adalah Malli Pelli pada tahun yang sama yang diproduksi oleh Y. V. Rao. Ia juga menjadi penyanyi playback untuk Y.V.Rao dan bernyanyi dengan Kanchanamala dalam film tersebut.