मंत्री पद लेने से मना किया भारतीय जनसंघ की स्थापना में अपना महत्वपूर्ण योगदान देने नानाजी को संगठन विस्तार के लिए उत्तर प्रदेश भेजा गया. अपनी सांगठनिक क्षमता सिद्ध करते हुए नानाजी ने 1957 तक उत्तर प्रदेश के हर जिले में जनसंघ की इकाइयां स्थापित कर दीं. जनसंघ उत्तरप्रदेश की प्रमुख राजनीतिक शक्ति का केंद्रबिंदु बन गया. नानाजी राम मनोहर लोहिया और दीनदयाल उपाध्याय की कुशल रणनीति से जनसंघ और समाजवादी विचारधारा ने कांग्रेस के लिए मुश्किल खड़ी कर दी. उत्तर प्रदेश की पहली गैर कॉंग्रेसी सरकार के गठन में विभिन्न राजनीतिक दलों को एकजुट करने में नानाजी का महत्वपूर्ण योगदान रहा.जेपी आंदोलन के समय जब लोकनायक जयप्रकाश नारायण के ऊपर पुलिस का लाठीचार्ज हुआ तब नानाजी ने साहस का परिचय देते हुए जयप्रकाश नारायण(जेपी) को सुरक्षित बाहर निकाल लिया. जनता पार्टी के संस्थापकों में नानाजी प्रमुख थे. कांग्रेस को सत्ता से मुक्त कर अस्तित्व में आई जनता पार्टी . आपातकाल हटने के बाद जब चुनाव हुआ तो नानाजी देशमुख यूपी के बलरामपुर से लोकसभा सांसद चुने गए और उन्हें मोरारजी मन्त्रीमण्डल में शामिल होने का न्योता दिया गया लेकिन नानाजी देशमुख ने यह कहकर प्रस्ताव ठुकरा दिया कि 60 वर्ष की उम्र के बाद सांसद राजनीति से दूर रहकर सामाजिक व् सांगठनिक कार्य करें.