Namun pada abad ke 19 Kuil Pohon Beringin ini diabaikan, yang kemudian sebuah pohon beringin tumbuh di tempat tersebut sehingga menambah misteri dan keagungannya.

Sayangnya, beberapa bagian Kuil Pohon Beringin diruntuhkan untuk membuka jalan masyarakat setempat dan toko di sekelilingnya. Yang tersisa saat ini hanyalah sebuah dinding yang di tahan oleh akar pohon.