Dalam konsep Dewata Nawa Sanga (Sembilan Dewata yang menguasai sembilan mata angin), pura ini merupakan sthana Dewa Iswara. Pura ini dibagi menjadi tiga mandala dari bawah ke atas yakni Lempuyang Sor, Lempuyang Madya dan Lempuyang Luhur. Dari ketiganya, pura Lempuyang Luhur berada pada posisi yang tertinggi.
Berdasarkan lontar Markandeya Purana, Pura Lempuyang didirikan oleh Rsi Markandeya sekitar abad ke-8 M. Pada saat itu Rsi Markandeya membuat sebuah pesantrian untuk keperluan persembahyangan sekaligus membabarkan ajaran Hindu. Pesantrian tersebut diperkirakan berada pada lokasi Pura Lempuyang Madya saat ini, di mana di sini beliau dikenal sebagai Bhatara Gnijaya.
Hingga saat ini masih sangat sulit untuk mengungkapkan sejarah Pura Lempuyang secara jelas. Soalnya data-data yang kuat sukar didapatkan. Sejauh ini baru diperoleh data-data mengenai Pura Lempuyang Luhur. Itu pun sifatnya tidak langsung. Dari sumber-sumber tersebut, ada dua hal yang sama-sama disebutkan yaitu Gunung Lempuyang dan Sang Hyang Gnijaya. Di dalam bahsa Jawa kata Lempuyang berarti gamongan gunung Lempuyang berarti gunung gamongan atau bukit gamongan sebagaimana disebutkan dalam sumber lainnya lagi yakni lontar Kusuma Dewa. Yang pasti, berbagai sumber kuno menyebutkan bahwa pura Lempuyang merupakan satu dari tiga pura besar selain pura Besakih dan Pura Ulun Danu Batur.
Ada sejumlah pantangan memasuki pura ini. Pantangan yang jika dilanggar bisa berakibat buruk. Pantangan tersebut adalah berkata kasar saat dalam perjalanan menuju pura Lempuyang Luhur. Jadi, jika hendak ke sana, sejak awal pikiran, perkataan dan perbuatan harus disucikan.
Selain itu, perempuan yang sedang menstruasi, menyusui, anak yang belum tanggal gigi susu belum diperbolehkan masuk ke dalam pura apalagi bersembahyang di sana. Juga, umat yang hendak bersembahyang tidak diperkenankan membawa perhiasan emas dan membawa daging babi ke areal Pura Lempuyang Luhur.
Satu yang menarik dan merupakan keistimewaan Pura Lempuyang Luhur adalah di tengah pura tersebut terdapat serumpun bambu jenis kecil. Setelah bersembahyang, batang pohon bambu itu dipotong oleh Pemangku untuk mendapatkan air suci yang disebut dengan tirtha pingit.