那么为何非要在正规军外另建新军?扩增正规军不成吗?不成。曾国藩虽是个文官，没有带过兵，可耳闻目睹，尤其是官军围剿太平军两年来的事实，使他坚信，这样的军队是绝无可能克敌制胜的。早在做京官时，他便向咸丰上过一道《议汰兵疏》，将军队的现状，做了这样的归纳：“兵伍之情状，各省不一。漳、泉悍卒，以千百械斗为常;黔蜀冗兵，以勾结盗贼为业;其他吸食鸦片，聚开赌场，各省皆然。大抵无事则游手恣雎，有事则雇无赖之人代充，见贼则望风奔溃，贼去则杀民以邀功。”4为此，他提出将绿营兵兵额减少到乾隆四十五年以前的水平，汰兵五万，每年节饷一百二十万两，将之用于军事训练，走jīng兵路线。
国内研究太平天国史的专家罗尔纲，20世纪30年代，曾出版过一部《湘军新志》，其时，罗对湘军军制的研究，是经过胡适先生指导的，故尚遵从胡氏实证主义的治学传统，有一分证据说一分话。5故此书资料详瞻，评论允当，诚为一时之选。今日读之，仍不失其价值。其后出之作，相形之下，则相去不可以道里计。《新志》中对当时清军的腐败窳劣，综核有序，正可以作为曾氏力主改练新军的注脚，故笔者不吝篇幅，于此转述之。
罗氏将清军绿营之积习(或称习气)归纳为四大端：
一为虚名冒饷。即将弁遇士卒缺出，仍存旧名，不予选补，以gān没其粮饷。遇到差点兵额时，临时雇人冒充以掩人耳目。此外将弁还将其自家府署内的厨役、仆人等挂名领饷，以国家养兵的经费，用于私人雇役。虚名冒饷的恶果是，册上有兵，伍内无兵;侵占名粮，则虽有其人，而操练调遣均不与闻，有兵等于无兵。咸丰初年，此弊浸深，如贵州一省之绿营，缺额过半，偏僻地区缺额更多，有只存六分之一者。(此胡林翼语)
二为“官气”重。即不事训练而专应差事，不讲营规而专习节仪，巧滑偷惰，军纪涣散。“无事则应对趋跄，勇为善观;临阵则趑趄退避，专择便宜;论功则多方钻营，希图美擢;遇败则巧为推诿，求便私图。”(此江忠源语)
三为操防虚应故事。平日训练，花拳绣腿，但求好看。“今日之制兵，陆则不知击刺，不能乘骑;水则不习驾驶，不熟pào械。将领惟趋跄应对，办名册，听差使。其练之也，演阵图，习架势，所教皆是花法(花架子)，如演戏作剧，何裨实用!”(此左宗棠语)
四为敢于犯上。清军绿营之等级序列，自上而下为提督、总兵、副将、参将、游击、都司、守备、千总、把总、士卒。而上级“居官不谨，动为其下所胁持”。因为有把柄在下级手中，故上级不得不务为姑息。姑息养jian，则军纪dàng然。由之形成嘉道年间，绿营士兵挟持千、把总，千、把总挟持都司、守备，都司、守备挟持副将、参将、游击，副将、参将、游击则挟持提镇(即提督、总兵)的局面。“上述四个弊端，虚名冒饷与侵占名粮，则营伍空虚。官气重，则巧滑偷惰成为风气。操防虚应故事，则所谓训练实与没有训练相等。敢于犯上，则军无纪律。营伍空虚，则临事始招市人冒充，应募的人，兵籍无名(顶空额)，以致闻风先逃，无可稽查。巧滑偷惰，则平时以钻营为能，营务必致废弛;有事以规避为巧，不免争先奔逃。无训练，则无胆无艺，不能披坚执锐。无纪律，则将令出而兵哗，敌未至而先溃，懦于御敌而勇于扰民。这四点都是绿营最大的弊端。此外，如将弁则役使兵士，视如奴仆，克扣摊派，剥及锱铢。兵士则吸鸦片，开赌场，豢盗，窝娼;平时无恶不为，一闻征调，则阖门啼泣，推饷求代。种种积弊，二百年来，成为习惯，已经是改革不了的。”6
上述四大弊端之外。罗氏还总结出绿营制度的三大缺陷：一是饷薄。士兵为了糊口养家，兼营生意便成为公开普遍的现象;国家既无力增饷，便只能视而不见，放任自流。二是分汛太多，差役太重。所谓汛，指的是山川道路要隘等处设置的驻军，分散驻扎的兵士多了，自然不可能按时集中操练。差役重，当时没有警察，所有护饷、押送犯人、缉捕盗贼等等，无不以分汛的绿营兵当差。分汛多，差役重，致使训练废弛，军纪涣散，战斗力低下。三是调遣无成法。绿营征调，往往零星抽凑，这一营抽一百，那一营抽五十。调兵一千，往往抽拨了几营或十几营。所谓兵与兵不相习，将与兵亦不相知，营伍散漫，心志不一就是这样造成的。一旦临敌，兵不听将令，将不得兵力，营与营之间则势如鸿沟，各不相谋，战不相援，败不相救。7
综上所述，难怪曾国藩对正规军没有信心，想要另起炉灶。故他赴任伊始，对帮办团练一事，敷衍了事，一带而过。“拟访求各州县公正绅耆，以书信劝谕，使之董理其事，俾百姓知自卫之乐，而不复以捐资为苦。”8话虽这么说，这件事，他自己心里怕是都不相信能够做到呢。反之，对编练新军，他显得劲头很足。在抨击了官军两年来在广西的表现后，他提出“今欲改弦更张，总宜以练兵为务。臣拟现在训练章程，宜参仿前明戚继光、近人傅鼐成法，但求其jīng，不求其多;但求有济，不求速效。诚能实力操练，于土匪足资剿捕，即于省城防守，亦不无裨益。”9咸丰对官军之窳劣，广西之溃败，早已痛心疾首，曾国藩既然请缨，倒也不妨看看他能搞出什么名堂，于是批示同意：“知道了。悉心办理，以资防剿”。有了这道朱批，曾国藩名正言顺了，其帮办团练的职任也一变而为编练新军了。
曾国藩统率的湘勇，连他在内，基本gān部全部是书生，虽然有知识，有头脑，可以很快掌握兵书的基本要领，但无一人有实际军事经验。练兵光靠兵书不成，于是曾国藩请了一个富于军旅经验之人，参与乡勇之军训。这个由此与曾国藩结缘，后来成为湘军早期名将者，是个满洲人，名叫塔齐布。
塔齐布(1816～1855)，字智亭，姓托尔佳氏，满洲镶huáng旗人。原为都统乌兰泰部下，咸丰元年发湖南以都司用，后以长沙守城之功擢升游击，赏戴蓝翎，后任抚标(即巡抚之卫队)中军参将。“时曾文正公奉命督练乡兵，用明戚继光法训练束伍。每校阅，公(指塔齐布)必短后衣蹑跷带刀侍。文正与语，奇之。试所辖兵，皆jīng炼。”10曾国藩觉得这是个难得的人才，“常倚该游击整顿营务”，命其兼管辰勇(即由辰州募集之勇)。曾国藩每逢三、八日亲自校阅乡勇的操练，而塔齐布训勇比他来得还勤，“日日常阅，大约十日之中不过间断二三日，军士皆乐为之用”。11问题出在曾国藩想要将绿营拉过来，与乡勇一同会操，一同听训，以扭转其军纪废弛、四处扰民的状态。事情发生在四月，曾国藩命塔齐布“传唤(绿)营兵，一同操演，亦不过会弁委前来听我教语。每次与诸弁兵讲说，至一时数刻之久。”其所为“盖欲感动一二，冀其不扰百姓，以雪兵勇不如贼匪之耻，而稍变武弁漫无纪律之态”。12曾国藩这番尝试，是不避嫌疑，有责任心的表现，但却令湖南的军政大员们不惬。甚至新任巡抚骆秉章，都认为他有喧宾夺主，越俎代庖之嫌。因为依惯例，文官管不着军队，即使是巡抚，也没有过问军队操练的先例。