山西大学堂创立于1902年，设中学专斋和西学专斋，由 山西巡抚 岑春煊和英国人 李提摩太共同创办，山西大学堂是中国最早的三所 国立大学堂之一，和 北洋大学堂（现 天津大学）， 京师大学堂（现北京大学）一道开启了中国高等教育的新纪元。

1912年学校更名为山西大学校；1918年更名为国立第三大学；1931年改名为国立山西大学；1953年院系调整，原山西大学被撤销，工学院改建为太原工学院（现 太原理工大学）、医学院改建为山西医学院（现 山西医科大学），文理两院合并，改建为 山西师范学院（后并入1959年复建的 山西大学），后析出 山西大学师范学院（1999年，山西大学师范学院、 太原师范专科学校和山西省教育学院合并组建 太原师范学院）。1996年，山西大学堂旧址被山西省人民政府批准成为山西省文物保护单位，2013年被国务院公布为全国重点文物保护单位，现址为太原师范学院附属中学&太原市师苑中学校（侯家巷校区）。   并由太原师范学院管理和使用。