縁起によれば、神亀元（７２４）年、行基により有馬温泉郷の傍、六甲山系は愛宕山の中腹に開かれたとされる有馬で最も古い寺である。万病の薬とされる温泉の湧き口に薬を司る薬師如来像を祀るためのお堂を建てたのが始まりとされる。また、鎌倉時代の仁西上人（戦乱で荒廃した有馬温泉を復興した。薬師如来を守る十二神将にあやかって十二坊舎を建てて、連れて来た平家の落武者十二名に管理をさせ、湯治場としての原型を作った。有馬の旅館に「坊」がつくのが多いのは、その名残である）を中興の祖とする。天正４（１５７６）年に火災で全山焼失したが直ちに北政所によって再建された。 その後再び火災にあい、天正１０（１５８２）年に現在ある薬師堂が建立された。しかし明治時代初めの廃仏毀釈で、天正１８（１５９０）年に豊臣秀吉が有馬大茶会を開催したとされる阿弥陀堂も含め、薬師堂以外の堂塔は全て取り壊されてしまった。その後、廃寺となった旧温泉寺の奥の院であった黄檗宗清涼院が寺籍を継いで現代に至っている。地元では、「薬師さん」と親しみを込めて呼んでいる。
（温泉寺由緒書を参考）