秦汉回到京师，补充兵源，操练兵马，又向两湖地区抽回吉庆元第四野战师，与秦汉第三野战师、任柱骑兵旅、两个独立炮兵旅、六个辎重旅组成平藏大军，1870年10月20日，吉庆元部经长途跋涉先到昌都，太平军挖壕筑垒后，又挖战壕，战壕才挖好不久，藏军一千多门火炮就开始轰击太平军营。接着藏军骑兵在前，步兵在后，开始疯狂向太平军杀来。太平军纷纷进入战壕射击，吉庆元部署炮兵快速就位压制藏军火炮，任柱骑兵旅赶到，立刻布阵从两翼包抄藏军。藏军骑兵见太平军枪弹密集，前边伤亡惨重，忙回马退逃，不想冲乱了己方步兵，吉庆元见状命骑兵卒出击，步兵上刺刀跟随，一千汉军见状弃了营垒逃离昌都，藏军丢下火炮狼狈逃窜，此战藏军伤亡八千多人，被俘一万余人，数千藏军逃往江达，在江达至工布一线布防。藏北地区气候奇寒、风雪漫天，太平军身着棉装，在严寒中一路行军直趋江达。三十九族地区藏民在先期潜入的天道教徒“推翻农奴制度，建立人人平等的天国”宣传下，对太平军非常拥护，家家送粮送牛，使太平军得到极好的补充。藏军根本就没有想到太平军竟能在寒冬中穿越藏北地区，长途远征直捣江达，顿时军心大乱，把江达洗劫一空后全部溃退而去。太平军攻克江达，又乘胜进军工布，藏军已全线动摇，无法组织防御，工布也很快被太平军攻克，通往拉萨的大门已被打开。驻藏办事大臣与一部分首领逃往印度，其余首领则被起义的底层藏兵抓获，献与太平军，吉庆元带兵进入拉萨。秦汉到了拉萨，由吉庆元部四出攻取西藏各地，支持藏民农奴翻身起义，改土归流，消灭特权阶级，自率第三野战师与任柱骑兵旅、两个炮兵旅、三个辎重旅直往西宁而去。
宁夏金积堡马化龙回军投降太平军后，白彦虎率回军残部西撤，由金积堡、海源、静远，穿河西走廊，抵达青海西宁，协助马文义旧部马永福回军阻抗太平军。1870年11月23日秦汉部到达西宁，西宁战役打响，白彦虎、马永福联合作战，不敌太平军，西宁之役失败，马永福降太平军，白彦虎自知罪大恶极，投降必死， 遂率部再次经肃州（甘肃酒泉），西退新疆，途中对不愿随其西撤的部属大开杀戒，甚至连亲嫂子都杀。白彦虎率陕西回军余部先到红庙子（今乌鲁木齐），又南撤与伪哲德沙尔汗国苏丹阿古柏侵略军勾结。1870年11月16日，在左宗棠部太平军的大举进攻下，阿古柏兵败自杀，白彦虎与阿古柏之子伯克胡里率残军继续负隅顽抗，屡遭挫败，最后与伯克胡里一起率两万残部从布鲁特、奥什附近的山口穿越帕米尔高原窜逃出境，辗转进入沙俄属地寻求庇护。秦汉分兵四出，攻占青海全境。
1864年，据说清军拖欠新疆士兵的薪饷，人均高达白银两百多两，这个数字在当时是是非常惊人的，加上新疆在外有俄国沙皇军队威胁和中亚阿古柏入侵，内有当时遍及全疆的民族起义下，清军没有征收到足够的夏粮，面临着饥荒的威胁，最后造成了全疆失守。期间，前后两位伊犁将军阵亡，各地驻扎的最高官员，都最后宁死不降。1870年7月2日，魏宣武与左宗棠彻夜长谈后，让左宗棠以二百名军校毕业生和伤愈归队的三千名太平军老兵为骨干组建第十野战师，训练两月后配备一个独立炮兵旅、一个新疆天道教徒组成的独立步兵卒、两个辎重旅于1870年9月5日出发进入新疆。左宗棠采取“先北路后南路”及“缓进急战”的策略，开始了收复新疆的战斗。1870年10月17日，第十野战师第二十八野战旅和独立炮兵旅一起利用炮火强攻下古牧地，在留下两营扼守古牧地后，第二十八野战旅和独立炮兵旅其余大军向乌鲁木齐挺进，阿古柏部闻风逃窜，乌鲁木齐遂克复。11月6日，第二十八野战旅和独立炮兵旅与投降太平军的清伊犁将军荣全一齐派兵于乘势克复玛纳斯城，在克复了北疆之后，左宗棠即进军南疆。1870年12月14日，第二十九野战旅及独立步兵卒进军达坂城，与此同时，第三十野战旅兵分两路从哈密和巴里坤西进吐鲁番。12月19日，独立步兵卒先抵达柴窝铺，当夜发动突袭，向达坂发起进攻，经数日激战终克复达坂城。达坂城攻克后，第二十九野战旅由西南进，直捣托克逊，经一夜激战，托克逊被第二十九野战旅攻克，与此同时，第三十野战旅在12月24日攻克七克腾木，不久，第三十野战旅在独立步兵卒协助下收复吐鲁番。1871年1月，太平军乘连克三城的良好局势，开始进行收复南疆八城之战。第二十八野战旅和独立炮兵旅向南疆西四城进击，面对逃窜和反正的敌军，第二十八野战旅和独立炮兵旅挥军分路前进，1871年2月中旬，太平军先后攻下了喀什噶尔、叶尔羌、英吉沙尔，1871年3月2日，太平军攻克和田。1871年4月21日，左宗棠率骑兵卒、探子卒、护卫卒、教导旅、炮兵旅、辎重旅及第二十九野战旅第三步兵卒、独立步兵卒攻克伊犁城，毙伤清军二千多人，俘虏清军三千余人。至此，新疆全部收复。
英、俄两国要与太平天国就藏、疆问题磋商签约，魏宣武推待建国后再说。1871年5月1日，举行开国大典，天道教圣教主魏宣武宣布中华国名从清国变为太平天国，将京师改称北京为首都，以天使红旗为国旗，采用公历纪年，接着进行全国大选，从乡级起，组成各级国民代表大会及其理事会、主席团，编定各级政府机构，选举产生各级政府长官及上一级代表。最后，1871年5月16日，经全国国民大会选举的主席团提名，全国国民大会表决通过，天道教长老院批准，魏宣武就任太平天国首任天王及首任军务制置院总理、时年30岁，杨权任全国国民大会首任理事长首任理事长、时年57岁，洪全福任首任监察院长、时年34岁，张云顶任首任最高法院院长、时年37岁，海外留学归国法学高材生梁楚成任首任全国最高检察院总检察长、时年25岁，至此，太平天国统一中华。