大军直取大理国，经广西，进入长沙;中路由蒙哥率领南下四川，进入重庆;北路由忽必烈率领，进入武汉。三路大军计划在武汉会合，然后顺江东进，直取临安，一举灭亡南宋。
但是，战争没有如此简单。虽然南宋名将孟珙、杜杲早已病逝，但蒙古北路军和中路军仍然在武汉合州遭到宋军的顽强抵抗，久攻不克。最后，蒙哥大汗战死，蒙军撤退。蒙哥死后，蒙古内部陷入汗位之争，忽必烈也急于回国抢夺汗位。但是，在如此关键的时刻，南宋权臣贾似道却背着朝廷前来议和，双方签订了议和协议，蒙军开始撤兵。1260年，蒙军全部撤回北方，蒙宋的第二次战争结束。蒙古此次南征，大汗战死，三路军也无功而返。第二次蒙宋战争结束后的四年里，蒙古一直处于内乱之中，忽必烈和他的弟弟阿里不哥争夺汗位，双方展开内战，也无暇南顾。1264年，忽必烈打败阿里不哥，结束了蒙古四年的内乱。但是，南宋朝廷并没有抓住蒙古内乱的有利时机发展自己，朝政更加腐败。
两次南征宋朝的失败，让忽必烈把征宋当做头等大事对待。1268年，忽必烈命阿术和刘整率兵攻襄阳。襄阳的地理位置十分重要，是南宋长江上的门户，失襄阳，南宋必亡。蒙军久攻襄阳，六年不克。最终，由于宋军叛徒的出卖，襄阳失陷，南宋的门户被彻底打开。1271年忽必烈称帝，正式建国号大元，1272年建都于燕京(今北京)。1274年，元军自汉江入长江，东下临安，南宋军队纷纷投降。1276年，元军兵临临安城下，谢太后和宋恭宗出城投降。南宋投降之后，仍有一些余部在沿海一带坚抗战，最为著名的有陆秀夫、文天祥等。但南宋气数已尽，岂是几人之力可以挽回。1279年，南宋彻底灭亡。至此，元朝统一中国。