उच्च शिक्षित और मृदुभाषी छवि के परमेश्वर ने राजनीति में आने के पहले कई अन्य क्षेत्रों में किस्मत आजमाई। एडिलेड विश्वविद्यालय के वाइट एग्रीकल्चर रिसर्च सेंटर से प्लांट फिजियोलॉजी में पीएचडी प्राप्त करने के बाद वे सिद्धार्थ इंस्टीट्यूट ऑफ टेक्नोलॉजी के प्रशासनिक अधिकारी बने, जो उनके परिवार द्वारा बनाए गए संस्थानों का एक समूह है।
वर्ष 1989 में राजीव गांधी से हुई परमेश्वर की मुलाकात के बाद उनके जीवन में बड़ा बदलाव आया। दिल्ली में राजीव गांधी से मिलने के बाद उन्होंने राजनीति में उतरने का निर्णय लिया। उस समय शीर्ष कांग्रेस नेतृत्व ने परमेश्वर पर भरोसा जताते हुए उन्हें कर्नाटक प्रदेश कांग्रेस समिति का संयुक्त सचिव बनाया। अपने शांत स्वभाव और कुशल नेतृत्व क्षमता के कारण परमेश्वर हमेशा ही कांग्रेस नेतृत्व के प्रति वफादार भूमिका निभाते रहे।
वे 1989 में ही मधुगिरि से चुनाव जीतकर विधायक बने और 1999 में मधुगिरि में अपने निकटतम प्रतिद्वंद्वी को 55,802 वोटों से हराकर एक रिकॉर्ड कायम किया। उस समय की एसएम कृष्णा सरकार में परमेश्वर को पहली बार मंत्रिमंडल में शामिल किया गया और वे उच्च शिक्षा एवं विज्ञान तथा प्रौद्योगिकी मंत्री बने। बाद में 2003 में उन्हें सूचना एवं प्रसारण मंत्री बनाया गया।
2008 परमेश्वर ने अपना विधानसभा क्षेत्र बदल लिया और मधुगिरि के बदले तुमकूरु के कोरटगेरे से चुनाव जीते। हालांकि 2013 में परमेश्वर को यहां से हार का सामना करना पड़ा, जबकि उस समय परमेश्वर को मुख्यमंत्री पद का दावेदार माना जा रहा था। परमेश्वर के राजनीतिक जीवन के लिए यह बड़ा झटका था। बाद में एमएलसी बने और लम्बे इंतजार के बाद सिद्धरामय्या मंत्रिमंडल में शामिल किए गए। कहा गया कि परमेश्वर उप मुख्यमंत्री बनना चाहते थे, लेकिन सिद्धरामय्या ने उन्हें गृह मंत्रालय का प्रभार दिया। इस बीच विधानसभा चुनाव-2018 के पूर्व कांग्रेस आलाकमान के निर्देश पर परमेश्वर ने मंत्री पद छोड़ दिया और पूर्ण कालिक प्रदेश अध्यक्ष के रूप में पार्टी को अपनी सेवाएं देने लगे।
इस बार के विधानसभा चुनाव में कोरटगेरे से जीतकर फिर से विधानसभा पहुंचने वाले परमेश्वर ने कांग्रेस और जनता दल (ध) के मौजूदा गठबंधन पर कहा था कि यह एक कठिन समय में किया गया है, लेकिन भाजपा को राज्य की सत्ता में आने से रोकने के लिए समय की मांग थी कि दोनों दल साथ आएं। चुनाव परिणाम आने के बाद उन्होंने कहा था कि लोगों की भावनाओं को समझते हुए कांग्रेस ने जद (ध) के साथ जाने का निर्णय लिया है ताकि साम्प्रदायिक शक्तियों को सत्ता से दूर रखा जा सके।
