दरअसल महेश भट्ट अपनी फिल्म जिस्म के लिए नए चेहरे की तलाश कर रहे थे जो पर्नालिटी में संजय दत्त की तरह हो। एक दिन मॉडलिंग करते हुए महेश भट्ट को जॉन अब्राहम मिले। उन्होंने अभिनेता को बताया कि उन्हें संजय दत्त जैसे कलाकार की जरूरत है। फिर क्या था, जॉन अब्राहम इस फिल्म को करने के लिए राजी हो गए थे। यह फिल्म साल 2003 में आई थी। इस फिल्म में उनके साथ बिपाशा बासु मुख्य भूमिका में थीं। फिल्म जिस्म के बाद उन्होंने साया, पाप, एतबार और लकीर जैसी कई फिल्मों में काम किया। हालांकि यह फिल्में बॉक्स ऑफिस पर वह कमाल दिखा नहीं पाईं। इसके बाद फिल्म धूम में एक विलेन के तौर पर उनकी अच्छी पहचान हासिल हुई। इस फिल्म के बाद उन्होंने काल, वाटर, गरम मसाला, टैक्सी नबंर 9211, दोस्ताना, न्यूयॉर्क, मद्रास कैफ, सत्यमेव जयते और मुंबई सागा जैसी कई हिट फिल्मों में काम किया है।