曾国藩遗下的“武英殿大学士”一缺，由李鸿章以协办大学士的资格升任；两江总督一缺，由何璟署理，八个月以后何璟丁忧，由张树声署理。
其后，到光绪二十一年正月为止，先后实任或署理两江总督的是：李宗羲、刘坤一、沈葆桢、左宗棠、裕禄、曾国荃、张之洞。
在这个期间，直隶总督却一直是李鸿章，从未换人。
曾国藩叫李鸿章成立淮军之时，安庆刚被拿下不久，苏州、常州、南京仍在太平军手中。
作为淮军的基本武力的，是合肥庐江一带的乡勇加上一部分湘军，与投降过来的程学启及其三百名太平军。
乡勇的领袖，以张、周两家兄弟为最重要。张氏兄弟三人：树声、树珊、树屏；周氏兄弟二人：盛波、盛传。
张树声是一个秀才，学问的根柢也许赶不上罗泽南，但保家抗洪纯粹出于自动，颇与罗氏及其所领导的若干书生相仿。
他初露头角，是在合肥家乡联合若干村庄筑了互相援救的堡垒。其后，带了五百人在（安徽）太湖县和陈玉成的几万人打了一仗，居然打胜。于是，在成立淮军之时，他与两个弟弟所统率的“树字营”，就成了核心部队。
周盛波不是秀才，自幼以勇敢著名。他的父亲也是办团练的，被一个仇人害了，他不顾一切杀了仇人。他和弟弟盛传，带了若干人参加新成立的淮军，被编为“盛字营”。
在树字营与盛字营以外，有刘铭传所统率的“铭字营”，潘鼎新所统率的“鼎字营”。刘铭传与张、周两家兄弟一样，是合肥人。潘鼎新是庐江人。
曾国藩拨了鲍超霆字营的勇将杨鼎勋加入淮军，成立勋字营，全部洋枪装备，每战担任前锋。程学启的原太平军，被编为“开字营”，虽无充分的洋枪装备，却也是职在攻坚。
树、盛、铭、鼎、勋、开这六个营，在初创之时编制模仿湘军，每营有五百人左右。其后随着战事的发展，各营皆不断扩充，营字便等于是军字了。
有一位曾国藩的老部下郭松林，也被编入淮军，立了不少战功。他的部队似乎从未被称为“松”字营，而常以“郭松林一军”五字见于曾国藩的奏疏。
李鸿章的弟弟鹤章，在江南历次战役颇为出力，但并未自成一个单位，只是统率李鸿章的“亲军”，会同各将作战而已。
李鸿章的哥哥李瀚章，拔贡出身，是曾国藩的学生，其后官作得很大，但从未带兵打仗。他的劳绩，全由替曾国藩办理多年粮运而来。
论局面，淮军远不如湘军当年。曾国藩的麾下人才济济，有左宗棠、李鸿章、曾国荃、鲍超、刘长佑、刘松山、唐训方，又有过肯为曾用的满洲人伊里布、多隆阿，与乐为曾助的督抚大员官文、胡林翼、骆秉章、沈葆桢。
李鸿章的麾下，只是一群“不如己者”。李鸿章以文武兼资的名翰林居于他的若干将领之上，可谓“鹤立鸡群”。在文的方面，只有潘鼎新是举人，比张树声与李瀚章略高一筹，比起李鸿章低得很多。
差强人意的仅有刘铭传一人而已。
李鸿章比曾国藩幸运，曾国藩位居“客官”，创军筹饷艰辛备尝。李鸿章办淮军是以曾氏第一幕僚的资格，奉命回乡募勇另成一军；其后乘轮东下，握有“江苏巡抚”关防，发号施令名正言顺。款项呢，有上海的“洋税”（关税）与“义捐”源源而来。现成的“常胜军”又已经在松江等候着他。
他本人的指挥能力，也无可抹杀。淮军能够迅速地“克复”苏、常，威名震于全国确非偶然。
太平军被削平以后，曾国藩征捻无功，李鸿章出马，没多时捻众全归扑灭。
天津教案发生，曾国藩苦心补苴，受尽清流的谤讪。在一切办有头绪之时，清廷偏要调曾去两江，派李鸿章来接任，虽则方案全是曾所手定，收功的却是李鸿章。
李鸿章的本职，是直隶总督，应该驻节保定；由于清廷将“（北洋）三口通商大臣”裁了，命他以直隶总督兼理通商事务，加给钦差大臣关防，他从此坐镇天津。
他把周盛波、周盛传、潘鼎新、郭松林都调来直隶，叫周盛波“拱卫畿辅”，周盛传主修大沽与北塘的炮台，郭松林充任直隶提督。其后在光绪元年与光绪二年，他又先后把吴长庆调来当正定镇总兵，发表周盛传为天津镇总兵。
李鸿章在直隶颇得这几人之力，把总督所应为的各事，办得胜任愉快。
慈禧太后对他特别倚重，不是没有理由的。曾国藩已死，左宗棠远在西北，恭亲王虽则仍任军机，已于同治四年免掉议政王职衔，芥蒂既生，宠信自不如前，况且能有一个李鸿章对恭亲王发生制衡作用，对大局也不无裨益。这便是李鸿章之所以能分掌大权至于二十五年之久的基本原因了。