当宮の起源は、709年に富田の神室山（みむろやま）に神が降臨され、それを祀ったことを始まりとし、770年に永源山の麓に位置する現在の地に移されたといわれている。
また一説には、豊前国宇佐八幡宮の御分霊を祀ったともいう。
平安時代の神仏習合時代には、真言宗の荘宮寺と習合し、庄寺（しょうでら）八幡宮と呼ばれた。
室町・戦国時代には、陶弘護、陶晴賢が戦勝を祈願して神前に扁額を寄進し、毛利氏からの崇敬も厚く、毛利元就公が何度も使いを遣わし戦の勝利を願ったことが当宮の石碑に記されている。
江戸時代には徳山毛利藩の二大御祈願所として、歴代藩主が度々参拝に訪れた。

『防長寺社由来』には、富田一二畑の惣鎮守の社で西国七社明神と言い伝えられ、
秋祭には「神事能楽」が奉納された記録がある。
その後元禄15年（1702年）、飢饉を機に五穀豊穣を願い、徳山藩主 毛利元次公が大小3つの山車を奉納した。この山車による神事は、今も「本山神事」として続けられており、江戸時代から続く古来の慣わしを今に残す、ほかに類を見ない非常に貴重な神事として平成22年、山口県の無形民俗文化財に登録された。
また当宮の南へ続く参道では、過去「流鏑馬」が行われており、古市大橋にはそれを記したプレートが掲げられている。
徳山藩では、年中行事として連歌を興行しており、春正月には藩邸内で、秋には当宮へ奉納するのが恒例であった。
当宮に現存する『連歌集』は、延宝9年(1681年)より明治5年(1872年）迄、49年分が保存されており、市の文化財に指定されている。連歌の後は『和歌百首奉納祭』に代りこれは終戦年（1945年）まで毎年続けて奉納された。
明治維新を迎えるにあたり、徳山毛利藩第9代藩主 毛利元蕃公の命により元治元年(1864年)「山﨑八幡宮」と御社名を改めた。
当宮においては平安時代の大同元年(806年) と、江戸時代の宝暦7年(1757年)の2度の火災により、それまでの御社殿.宝物・古文書等全て焼失している。
現在の社殿は、明治9年(1876年)に再建されたものである。
明治4年（1871年)に郷社となり、昭和5年(1930年)に県社に昇格した。