于是，曾国藩在举行的团练基础上组建了湘军，并且依托儒学进行维系。首先，湘军将领大多是封建儒生，与曾国藩既是同乡，又有同学、师生、亲友的关系;其次，用儒家三纲五常的礼教和同乡共里的乡土观念建立起了尊卑有别并且等级森严的军队制度，构成了湘军士兵只服从营官、层层隶属乃至全军只服从曾国藩一人的军队制度，从而使湘军成为一支与太平军进行抗衡并能维护封建统治的军队。事实上，自湘淮集团构成以后，各地儒生纷纷效仿，大办团练，以儒学维系各自武装。
探索网配图
随着太平天国运动的爆发，乡绅举行团练的规模空前，不仅开启了中国近代地方武装的新模式，还使团练制度在地方社会确立，促进了地方军事化。近代团练在嘉庆年间为应对白莲教大起义而产生，并促使四川、湖南等地相继兴起团练活动。然而，政府鉴于统治的需要并没有完全放开团练的筹办，直到太平天国运动的发生才为团练普遍兴起创造了契机，由于“业已腐败不堪的清朝国家经制军不能有效地镇压”，以致在太平军定都天京后，咸丰皇帝下诏：“令各省督抚晓谕绅民，实行团练，自卫乡闾”，因而清廷开始鼓励各地举行团练，并且委派官员在籍或回籍操办，“动员和组织非常规的地方武装力量以求补偿”。
在这样的情况下，各地的乡绅开始积极参与举行团练的活动。比如，与太平天国进行对抗的湘军正是在民间乡绅团练的基础上建立起来的，其中湘军将领江忠源、罗泽南、王鑫、刘典、李续宾、刘坤一、彭玉麟等，都是以在籍绅士身份举行团练起家的，就连首领曾国藩也是以丁忧在籍的身份在湖南筹办团练。在这种情况下，随着团练制度在各地的确立迅速导致地方军事化发展。以江西为例，“随着各县团练的建立，南昌地区构成了一个以省城为中心的团练网络。构成这一网络的各团练之间互为犄角，确保了省城不失”。但这些团练都是由乡绅筹办的，据统计，“太平天国时期各地团练领袖都以乡绅为主体，其中乡绅领袖在广东为78.4%，在广西为79.9%，在湖南为56%”;“安徽各地的大小团练头目数以千计，其身份也是五花八门，但居于主导地位的无疑是士绅”。
