寛弘年間（1004年 - 1011年）に本庄寺と称する天台宗の寺院があり、権少僧都普賢がこの付近（現・長浜市本庄町 西黒田地区）に立ち寄り、その奥堂に滞在した。
普賢は長元7年（1035年）6月、普賢山長元寺という一寺を本庄の東の山間部（現・字上源寺谷）に開いた。
永正8年（1511年）、その頃の住僧であった惠信が本願寺9世・実如上人に帰依し、浄土真宗に転じた。その3年後、かつて本庄寺があった現在地近くに移転し、寺号を長源寺と改めた。おそらくこの頃山号も普賢山から一谷山へと変えたと思われる。
元亀2年（1571年）、元亀争乱に巻き込まれたと思われ、兵火にかかったとされる。
慶安3年（1650年）頃には、大谷派・長浜御坊大通寺と本願寺派・長沢御坊福田寺の本末論争によって、長源寺は大谷派の東長源寺と本願寺派の西長源寺とに分裂してしまう。東長源寺の住職は慶運という僧侶で、長源寺中興の祖といわれる。
理由は不明だが、翌年3月に再び本派へ戻り、現在地に移転する。いつ頃再び大谷派に転派したのかはわかっていない。
昭和31年（1956年）、住職代務者・惠香（宮尾惠美子）が東長源寺を長源寺と改める。
昭和58年（1983年）2月、中興の祖といわれる慶運の字をとり、慶運山と山号を改める。
