北宋开宝元年(968)，宋太祖伐北汉，兵克广阳城，建立平定军，改广阳县为平定县；太平兴国四年(979)，宋太宗将县治迁至榆关。

    榆关为汉淮阴侯韩信伐赵屯驻军队所建营寨，南临嘉河，地势居高，易守难攻，为历代兵家必争之地。后嘉河北岸，百姓建居，商客过往，渐为城镇。县治迁后，当时县令牛思进，将昔日韩信的中军帐，改建为县衙，榆关正式作为平定的县城，即今平定上城。

    平定上城地面狭小，后来逐渐修筑下城。因当时物力所限，下城只是依地形而建，以土垒为城垣。嘉河从西到东横贯城内，夏季河水暴涨，冲溢两岸。原来的住户多居于嘉河两岸的高阜之处。北宋熙宁年间，南营天宁寺建成，双塔巍然耸立；宣和六年(1124)，又于天宁寺坡下西侧兴工修建神霄玉清宫(今钟楼巷北建崇圣寺)。当时，榆关门外没有月城，向东直通南营天宁寺，折向北经寺坡下嘉河，小桥横亘于上、下湾之间的河上，连通两岸，然后经钟楼巷达后街。这就是当年下城的情形。    金元之际，嘉河两岸筑土为堤，植树造林以拒水害，开辟道路，架筑桥梁。经过多年经营，嘉河两岸绿树成荫，商贾店肆排列，路上行人不断。金末诗人元好问在《乡郡杂诗》中吟咏平定山城的景色云：

一沟流水几桥横，

岸上人家种柳成。

来岁春风千万树，

绿烟和雨暗重城。

描绘出了平定上、下城的优美风光。

    明初，由外地迁来平定不少居民。洪武二年(1369)，明朝第一任知州程宗道到任。据旧志载：“时当草创，宗道悉力吏治，披荆棘，抚凋瘵，使闾闫有起色；建州署、学宫、坛社、邮传，无不俱举。”弘治七年(1494)，知州吴贤重修上城，“役力于民，采材于山，五丁朋一夫，十日递一班”，自春二月至夏四月仅两三个月时间工程即告竣。重修后的上城，“卑者崇，缺者完，薄者厚，四角有楼，十步于铺，环列有砖堞，焕然完好矣。”弘治十三年(1500)，在上城月城北建严更楼，嘉河之上建济川桥，桥南街、十字街成为热闹繁华的街市。经过多年的经营，由上城向下俯瞰，已是“河流屈曲，干房万井，烟火相接，行商居旅，轮蹄旁午”，生气蓬勃，一派盛世景象。

    清雍正二年(1724)，升平定州为直隶州。乾隆三十年(1765)，知州陶易开始大规模重修平定城，“城高一丈五尺(5米)、宽九尺(3米)，上城周长2里348步(约1348米)，下城周

长6里38步(约3038米)”，上、下城共有雉堞3114个，炮台、角台34个，各门均有城楼，并增筑东、西水门。这项工程历时两年，耗银11200余两。当时的平定城关，东起朝晖阁，西到雨花台达红牌楼，沿十里长街，商店铺面鳞次栉比。清代董元度《环翠亭春望》诗中云：

环城百雉山为障，

铺地千家瓦欲流。

正道出当时平定城繁荣昌盛的景象。