北汉虽然已经灭亡，但太宗对太原坚固的城池仍然耿耿于怀，他下令全城的居民迁往汾水东的新城，并将新设立的并州府迁到榆次。居民出城后，宋太宗下令在城内放火，整个太原城在一天之内就全部被焚毁。第二年四月，太宗又命人将晋水灌入太原，经此火烧、水灌，太原城彻底变为废墟。
平灭北汉后，宋太宗将军队调到了河北地区，想一鼓作气收复燕云，但他这一次低估了辽国的力量。有宋军将领说战争刚结束，应该给军队一个休整准备的时间，而且现在粮草非常匮乏，不能支持长久作战，建议太宗做充分准备之后再攻打辽国。但宋太宗觉得辽刚刚吃了败仗，士气低落，应该乘胜追击，扩大战果。对辽的战争在刚开始时还很顺利：易州刺史主动献城投降；宋军到达涿州后，同样是兵不血刃地取下了城池；宋军前锋直抵辽南京城（即幽州，今北京），守卫南京的辽将耶律奚底和宋军在沙河初次交战，被宋军打败，退到了清河北面。宋军将辽南京城包围起来，辽军则坚守不出，等待援军。
辽景宗见辽南京城形势紧急，赶忙派名将耶律休哥领重兵相救。耶律休哥非常善于打仗，他将军队兵分两路，一路只有五千人，装作是辽军主力到辽南京城下引诱宋军交战，而主力骑兵三万则在夜里绕行南面，赶到了宋军的背后。双方在现在北京市西南的高粱河一带展开了激战，最终，腹背受敌的宋军惨败而退。宋太宗在慌乱中带着一队亲信逃出乱军阵，后面辽军紧追不舍。到涿州时，太宗大腿被射中两箭，龙旗御车、随从嫔妃等也都被辽军掳掠，最后只好在当地百姓家弄了辆驴车，太宗驾驴车从小路逃回了京城。