माना जाता है कि सती की मृत्यु से व्यथित भगवान शिव उनके मृत शरीर को लेकर तांडव करते हुए ब्रह्मांड में भटकते रहे। इस समय माता के अंग जहां-जहां गिरे, वहीं शक्तिपीठ बन गए। इन्हीं स्थानों को शक्तिपीठ रूप में मान्यता मिली। महामाया मंदिर में माता का दाहिना स्कंध गिरा था। भगवान शिव ने स्वयं आविर्भूत होकर उसे कौमारी शक्ति पीठ का नाम दिया था। इसीलिए इस स्थल को माता के 51 शक्तिपीठों में शामिल किया गया। यहां प्रात:काल से देर रात तक भक्तों की भीड़ लगी रहती है। माना जाता है कि नवरात्र में यहां की गई पूजा निष्फल नहीं जाती है।