ଖ୍ରିସ୍ଟପୂର୍ବ ତୃତୀୟ ଓ ଦ୍ୱିତୀୟ ଶତାବ୍ଦୀରେ ଏକ ବାଲୁକାପଥର ପାହାଡ଼ରୁ ଖନନ କରାଯିବା ପରେ ଉଦ୍ୟାଗିରି ଗୁମ୍ଫାଗୁଡ଼ିକ କଳିଙ୍ଗ ରାଜ୍ୟର ରାଜ୍ୟ ଧର୍ମ ଥିବା ସମୟରେ ପୁରୋହିତ ଓ ସନ୍ନ୍ୟାସୀମାନଙ୍କ ବାସସ୍ଥଳୀ ଥିଲା।
ଏହି ଗୁମ୍ଫାଗୁଡ଼ିକ ପୁରୋହିତ ଏବଂ ସନ୍ନ୍ୟାସୀମାନଙ୍କୁ ବର୍ଷ ବର୍ଷ ଅପେକ୍ଷା କରିବା ପାଇଁ ଏକ ସୁରକ୍ଷିତ ସ୍ଥାନ ପ୍ରଦାନ କରିଥିଲା।