开化寺是并州第一古刹，古称“并州大寺”，日本佛教典籍中称其为“并州大岩寺”。位于蒙山北峰的并州大寺（后称开化寺上寺）初建于东汉永平年间，与河南洛阳白马寺属于同时期寺庙。作为佛教传入中国的早期道场，东魏孝静帝敕命净土宗宗师昙鸾住并州大寺研习经书，弘扬佛法。北齐天宝二年（公元551年）文宣帝凿大岩为大佛，为方便远瞻大佛，在大佛南二里远处修筑寺院（后称开化寺下寺），并赐额“开化”，此后“并州大寺”更名为“开化寺”。