漢武帝時，置并州刺史部，為十三刺史部之一，約當今山西省大部，河北省及內蒙古自治區的一部分地。東漢、曹魏、西晉以來，并州的治所就在太原郡晉陽縣，晉末治台壁，後來仍治晉陽。并州包括今山西省大部，北朝以來并州轄境逐漸縮小，但仍以太原為中心。