我国省制创立于魏晋时期。魏晋时中央设中书、尚书、门下三省,省自此成为官署名称。
元朝实行的行省制是现代省级行政区的开端,行省属于中央行政机构中书省在地方的派出机构,全称“行中书省”。腹里地区(今河北、北京、天津、山西、山东、内蒙古部分)则由中书省直辖。时全国共10个行省、1个中书省辖地、1个宣政院辖地。