ਧਾਰਮਿਕ ਗ੍ਰੰਥਾਂ ਦੇ ਅਨੁਸਾਰ, ਆਦਿਸ਼ਕਤੀ ਦਾ ਅਵਤਾਰ ਪਹਾੜੀ ਰਾਜੇ ਹਿਮਾਲਿਆ ਦੇ ਘਰ ਵਿੱਚ ਹੋਇਆ ਸੀ, ਜਿੱਥੇ ਉਸਦਾ ਨਾਮ ਪਾਰਵਤੀ ਸੀ। ਜਦੋਂ ਪਾਰਵਤੀ ਜਵਾਨ ਸੀ, ਉਸ ਦੀ ਇੱਛਾ ਭਗਵਾਨ ਸ਼ਿਵ ਨਾਲ ਵਿਆਹ ਕਰਨ ਦੀ ਸੀ। ਪਰ ਅਜਿਹੀ ਕੋਈ ਸੰਭਾਵਨਾ ਨਾ ਦੇਖਦੇ ਹੋਏ, ਪਾਰਵਤੀ ਨੇ ਤਪੱਸਿਆ ਦੁਆਰਾ ਸਥਿਤੀ ਨੂੰ ਬਦਲਣ ਦਾ ਫੈਸਲਾ ਕੀਤਾ। ਪਰ ਜਦੋਂ ਤਪੱਸਿਆ ਆਪਣੇ ਸਿਖਰ ‘ਤੇ ਪਹੁੰਚ ਗਈ ਅਤੇ ਸਫਲ ਹੋ ਗਈ ਤਾਂ ਭਗਵਾਨ ਸ਼ਿਵ ਨੂੰ ਵਿਆਹ ਲਈ ਸਹਿਮਤ ਹੋਣਾ ਪਿਆ।
ਮੰਦਰ ਦੇ ਨੇੜੇ ਤਿੰਨ ਤਾਲਾਬ ਹਨ, ਪਹਿਲਾ ਬ੍ਰਹਮਾ ਕੁੰਡ, ਦੂਜਾ ਵਿਸ਼ਨੂੰ ਕੁੰਡ ਅਤੇ ਤੀਜਾ ਰੁਦਰ ਕੁੰਡ। ਕਿਹਾ ਜਾਂਦਾ ਹੈ ਕਿ ਭਗਵਾਨ ਬ੍ਰਹਮਾ ਨੇ ਸ਼ਿਵ ਨਾਲ ਵਿਆਹ ਤੋਂ ਪਹਿਲਾਂ ਬ੍ਰਹਮਕੁੰਡ ਵਿੱਚ ਇਸ਼ਨਾਨ ਕੀਤਾ ਸੀ। ਭਗਵਾਨ ਵਿਸ਼ਨੂੰ ਨੇ ਵਿਸ਼ਨੁਕੁੰਡ ਵਿੱਚ ਇਸ਼ਨਾਨ ਕੀਤਾ ਅਤੇ ਸਾਰੇ ਦੇਵੀ-ਦੇਵਤਿਆਂ ਨੇ ਰੁਦਰਕੁੰਡ ਵਿੱਚ ਇਸ਼ਨਾਨ ਕੀਤਾ। ਸਰਸਵਤੀ ਕੁੰਡ ਨੂੰ ਇਨ੍ਹਾਂ ਸਾਰੇ ਤਾਲਾਬਾਂ ਦਾ ਜਲ ਸਰੋਤ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ। ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਕਿ ਇਹ ਭਗਵਾਨ ਵਿਸ਼ਨੂੰ ਦੀਆਂ ਨਾਸਾਂ ਤੋਂ ਬਣਾਇਆ ਗਿਆ ਸੀ। ਵਿਆਹ ਦੇ ਸਮੇਂ, ਭਗਵਾਨ ਸ਼ਿਵ ਨੂੰ ਇੱਕ ਗਾਂ ਦਾਨ ਕੀਤੀ ਗਈ ਸੀ, ਜੋ ਕਿ ਮੰਦਰ ਦੇ ਇੱਕ ਥੰਮ੍ਹ ਨਾਲ ਬੰਨ੍ਹੀ ਹੋਈ ਸੀ। ਅਜਿਹਾ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਕਿ ਇਨ੍ਹਾਂ ਤਾਲਾਬਾਂ ਵਿੱਚ ਇਸ਼ਨਾਨ ਕਰਨ ਨਾਲ ਬੇਔਲਾਦਤਾ ਦੂਰ ਹੁੰਦੀ ਹੈ।