महज नौ साल की उम्र में ही एआर रहमान के पिता का देहांत हो गया था। पिता के जाने के बाद से परिवार को आर्थिक तंगी से गुज़रना पड़ा। उस वक्त परिवार वालों का ख्याल रखने के लिए और पैसों की कमी को पूरा करने के लिए उनकी मां उनके ही पिता के म्यूजिकल इंस्ट्रूमेंट्स को उधार पर दिया करती थी। म्यूजिकल इंस्ट्रूमेंट्स से मिलने वाले किराए से उनकी मां घर का खर्च चलाया करती थीं। 11 साल की उम्र में उन्होंने अपने बचपन के दोस्त शिवमणि के साथ 'रहमान बैंड रुट्स' के लिए सिंथेसाइजर बजाने का काम करना शुरू कर दिया था। वह पियानो, हारमोनयिम, गिटार भी बजा लेते थे।