उनके संग्रह में ईस्ट इंडिया कम्पनी, ब्रिटिश काल, देश की आजादी से पहले और देश की आजादी के बाद से अब तक के करीब तीन हजार डाक टिकट संग्रहित है। इन डाक टिकटों में महारानी विक्टोरिया, जार्ज पंचम, षष्ठम, महात्मा गांधी, नेहरु परिवार, देश के प्रसिद्ध राजनेता, पशु, पक्षी, पेड, वन्य पशु, वैज्ञानिक, संगीतज्ञ, देश के राष्ट्रपति, शिक्षण संस्थाओं, अवसर विशेष पर जारी हुए डाक टिकट शामिल है। गुप्ता के डाक टिकट संग्रह में महात्मा गांधी पर जारी हुआ कपड़े का डाक टिकट भी शामिल है। वहीं इनके डाक टिकट संग्रह में विश्व के करीब सत्तर देशों के डाक टिकट भी शामिल है। गुप्ता के पास डाक टिकटों के साथ नोट और सिक्कों का संग्रह भी है।
डाक टिकटों में बीकानेर
डाक टिकटों के संग्रह में बीकानेर से संबंधित डाक टिकट भी शामिल है। गुप्ता के अनुसार महाराज गंगासिंह, कोटगेट, पदमश्री अल्लाह जिलाई बाई, आचार्य तुलसी पर जारी हुए दस से अधिक डाक टिकट शामिल है। वहीं खेजड़ी, गोडावण पक्षी, ऊंट पर डाकघर सहित प्रदेश से संबंधित कई डाक टिकट शामिल है।