江宁城内，还有江宁将军魁玉和副都统辉布所统四千八旗兵驻在满城，这些人是知道前次洪杨太平军破城时对满人的屠戮，因此全城不分老弱妇孺能拿得动武器的约二万人都上城守御。上官相降兵送信入城劝降，保证满人降后人身安全。魁玉等人拒降，吴如孝让太平军两个独立炮旅将所余炮弹全部射入满城，然后搭云梯强攻满城，很快城破，魁玉用枪自杀，辉布受伤被俘，满城中二、三万居民本以为会被屠城，谁知这伙儿太平军完全不像传的那样，除了撤除满城外，对百姓秋毫无犯，对八旗俘虏让他们收拾战场后，其中官员送入教导营、士兵不带武器各散归家，伤病者还给医治，于是合城乃安。江宁城，在历经无数战乱浩劫之后，终于迎来了王者之师。 1868年7月25日，占领江宁后，经过短暂休整补充的关保东征都督府和率淮军到上海，从外国人那儿购买了大批军火，在浙江、江西招募大批兵勇，把淮军扩展为四百营二十多万人，每营装备燧发枪四百支，按湘军之法高强度训练，要求每个士兵都能上1丈高的屋顶、跳过1丈宽的沟、还要能够手抛火球到20丈外，并能腿绑沙袋日行百里。淮军扎营也按湘军之法，无论攻城或野战, 无论风雨寒暑，必先扎营；营没扎好，不准休息、也不准去搦战，为了防备敌人偷袭，淮军除了派出部队巡营和站岗外，还每晚安排重兵在营地四墙守望，白天占总兵力的三分之一，晚上则占总兵力的十分之一，不仅增大了快速发现敌人的概率，也有足够的力量可以应对。李鸿章给每营配备了用于杀伤步兵的轻型小炮，每次发炮都能发射百余颗生铁或熟铁铸就的葡萄大小的炮子，每次点火后“喷薄而出，如珠如雨，殆无隙地，当之辄碎，不仁之器，莫甚于此”，后又购了一批前装滑膛炮装备各营。李鸿章又购买外国蒸汽炮艇十艘装备黄翼升、王芝声的长江水师。李鸿章又任用英国军官柏郎为领队，五百名各国退役洋军人为骨干，训练了一支三千人的洋枪队。李鸿章聚集了署湖南提督刘铭传，直隶按察使张树声，江西布政使刘秉璋，山东布政使潘鼎新，署江苏按察使吴毓芬 ，署江苏布政使吴毓兰，署湖北提督郭松林，记名提督周盛波、吴长庆、丁汝昌、聂士成、唐定奎，署徐州镇总兵董凤高，记名总兵叶志超、卫汝贵、解先亮、宋先聘、程孔德、周世臣，参将左宝贵、腾嗣相、副将滕嗣林、吴秉权等将领，在浙江、江西一带精练士卒，又以署天津道丁寿昌为天津总理营务，准备与太平军一较高下。 李鸿章在上海，命师爷娄春藩向清廷上奏请饷银，清廷只拨了二万两白银，实授李鸿章为两江总督、平匪钦差大臣，节制浙江、江西、福建三省军务，江西巡抚景福、浙江巡抚杨昌浚、福建巡抚王凯泰并听调遣，令闽浙总督马新贻、浙江提督胡中和、浙江布政使杨昌濬募练的浙勇一百二十营，福建陆路提督王明山所募闽勇五十营，也归其节制，并准其于三省通过劝捐、厘金、盐税等方式筹集粮饷。李鸿章见一时难以筹到如此巨额的军饷，就通过以厘金、盐税抵押的方式向上海洋行借款五百万两白银以充军饷。1868年9月，清廷催促李鸿章进兵，李鸿章以新募兵需要训练为由婉拒。李鸿章知道，魏宣武的太平军精悍比洪杨之军有过之而无不及，统百战之湘勇的老师曾国藩都失败被擒，何况自己这些新招未练之兵，要胜过太平军，他招的兵就必须按老湘军之法苦练并装备精良方可大用。
