महज सात वर्ष की उम्र से ही पंकज गाना गाने लगे। उनके इस शौक को उनके बड़े भाई मनहर ने पहचान लिया और उन्हें इस राह पर चलने के लिये प्रेरित किया। मनहर अक्सर संगीत से जुड़े कार्यक्रम में हिस्सा लिया करते थे। उन्होंने पंकज को भी अपने साथ शामिल कर लिया। एक बार पकंज को एक संगीत कार्यक्रम में हिस्सा लेने का मौका मिला जहां उन्होंने ‘ए मेरे वतन के लोगो जरा आंख में भर लो पानी’ गीत गाया। इस गीत को सुनकर श्रोता भाव-विभोर हो उठे। उनमें से एक ने पंकज को खुश होकर 51 रूपये दिये। इस बीच पंकज राजकोट की संगीत नाट्य अकादमी से जुड़ गये और तबला बजाना सीखने लगे।
कुछ वर्ष के बाद पंकज का परिवार बेहतर जिंदगी की तलाश में मुंबई आ गया। पंकज ने अपनी स्नातक की पढ़ाई मुंबई के मशहूर सेंट जेवियर्स कॉलेज से हासिल की। इसके बाद उन्होंने स्नाकोत्तर पढ़ाई करने के लिये दाखिला ले लिया लेकिन बाद में उनकी रूचि संगीत की ओर हो गई और उन्होंने उस्ताद नवरंग जी से संगीत की शिक्षा लेनी शुरू कर दी। पंकज के सिने कैरियर की शुरूआत 1972 में प्रदर्शित फिल्म ‘कामना’ से हुई लेकिन कमजोर पटकथा और निर्देशन के कारण फिल्म टिकट खिड़की पर बुरी तरह असफल साबित हुई । इसके बाद ‘गजल गायक’ बनने के उद्देश्य से पंकज ने उर्दू की तालीम हासिल करनी शुरू कर दी ।
वर्ष 1976 में पंकज को कनाडा जाने का अवसर मिला और वह अपने एक मित्र के यहां टोरंटो में रहने लगे। उन्हीं दिनो अपने दोस्त के जन्मदिन के समारोह में पंकज को गाने का अवसर मिला। उसी समारोह में टोरंटो रेडियो में हिंदी के कार्यक्रम प्रस्तुत करने वाले एक सज्जन भी मौजूद थे। उन्होंने पंकज उधास की प्रतिभा को पहचान लिया और उन्हें टोरंटो रेडियो और दूरदर्शन में गाने का मौका दे दिया । लगभग दस महीने तक टोरंटो रेडियो और दूरदर्शन में गाने के बाद पंकज का मन इस काम से उचाट हो गया। इस बीच कैसेट कंपनी के मालिक मीरचंदानी से उनकी मुलाकात हुई और उन्हें अपनी नई एलबम ‘आहट’ में पाश्र्वगायन का अवसर दिया। यह अलबम श्रोताओं के बीच काफी लोकप्रिय हुआ।
वर्ष 1986 में प्रदर्शित फिल्म ‘नाम’ पंकज के सिने कैरियर की महत्वपूर्ण फिल्मों में एक है । यूं तो इस फिल्म के लगभग सभी गीत सुपरहिट साबित हुएे लेकिन पंकज उधास की मखमली आवाज में ‘चिट्ठी आई है वतन से चिट्ठी आई है’ गीत आज भी श्रोताओ की आंखो को नम कर देता है । इस फिल्म की सफलता के बाद पंकज को कई फिल्मों में पाश्र्वगायन का अवसर मिला। इन फिल्मों में गंगा जमुना सरस्वती, बहार आने तक, थानेदार, साजन, दिल आश्ना है, फिर तेरी कहानी याद आई, ये दिल्लगी, मोहरा, मै खिलाड़ी तू अनाड़ी, मंझधार, घात और ये है जलवा प्रमुख हैं । पंकज के गाये गीतों की संवदेनशीलता उनकी निजी जिन्दगी में भी दिखाई देती थी ।
वह एक सरल हृदय के संवदेशनशील इंसान भी है जो दूसरों के दुख-दर्द को अपना समझकर उसे दूर करने का प्रयास करते है । दूसरों के प्रति हमदर्दी और संवेदनशीलता की इस भावना को प्रदर्शित करने वाला एक वाक्या है । एक बार मुंबई के नानावती अस्पताल से एक डाक्टर ने पंकज को फोन किया कि एक व्यक्ति के गले के कैंसर का आपरेशन हुआ है और उसकी उनसे मिलने की तमन्ना है। इस बात को सुनकर पंकज तुरंत उस शख्स से मिलने अस्पताल गए और न सिर्फ उसे गाना गाकर सुनाया बल्कि अपने गाये गानों का कैसेट भी दिया। बाद में पंकज को जब इस बात का पता चला कि उसके गले का ऑपेरशन कामयाब रहा है और उसकी बीमारी धीरे-धीरे ठीक हो रही है तो पंकज काफी खुश हुएे ।
पंकज को अपने कैरियर में मान सम्मान भी खूब मिला। इनमें सर्वश्रेष्ठ गजल गायक, के.एल.सहगल अवार्ड, रेडियो लोटस अवार्ड, इंदिरा गांधी प्रियदर्शनी अवार्ड, दादाभाई नौरोजी मिलेनियम अवार्ड और कलाकार अवार्ड जैसे कई पुरस्कार शामिल हैं। साथ ही गायकी के क्षेत्र में उनके उल्लेखनीय योगदान को देखते हुये उन्हें 2006 में पदमश्री पुरस्कार से भी सम्मानित किया गया। पंकज अब तक 40 एलबम के लिये पाश्र्वगायन कर चुके हैं। इनमें नशा, हसरत, महक, घूंघट, नशा 2,अफसाना, आफरीन, नशीला, हमसफर, खूशबू और टुगेदर प्रमुख हैं। पंकज आज भी अपने पाश्र्वगायन से श्रोताओं को मंत्रमुग्ध कर रहे हैं।
