वे पहली बार 14 मार्च 1995 को गुजरात के मुख्यमंत्री बने लेकिन सिर्फ सात महीने में ही शंकर सिंह वाघेला के विद्रोह के कारण उन्हें इस्तीफा देना पड़ा। हालांकि वर्ष 1998 के विधानसभा चुनाव में भाजपा ने फिर सत्ता में वापसी की और केशूभाई को कमान सौंपी गई। 4 मार्च 1998 को वे फिर से सीएम बने। हालांकि 2 अक्टूबर 2001 को पटेल को बिगड़ते स्वास्थ्य के चलते इस्तीफा देना पड़ा। इसके बाद गुजरात के मुख्यमंत्री पद की बागडोर वर्तमान प्रधानमंत्री नरेन्द्र मोदी ने संभाली।
पटेल ने वर्ष 2002 का विधानसभा चुनाव नहीं लड़ा और वे राज्यसभा के लिए चुने गए। 2012 में वे भाजपा से अलग गुजरात परिवर्तन पार्टी बनाई। पार्टी ने दो सीटें जीतीं। उन्होंने जीपीपी के अध्यक्ष पद से वर्ष 2014 में इस्तीफा दिया और फिर विधायक पद से भी इस्तीफा दिया। बाद में जीपीपी का भाजपा में विलय हो गया। मोदी उन्हें अपना राजनीतिक गुरु मानते थे।