曾国藩所率湘勇毫无疑问在平定太平天国起到了决定性作用，李鸿章也可以说是曾国藩一手扶持起来的，可以说镇压太平天国中的湘、楚、淮三支主力部队中有两支都是曾国藩系。而湘勇和淮军在镇压太平天国运动都可以说是手段血腥残忍，曾国荃部攻克天京（南京）烧杀掠抢无所不为、李鸿章部克苏州屠尽太平天国投降人员。
曾国藩本人也为“乱世用重典”，在处理所谓秀才林明光通匪案时，明知林明光与太平天国瓜葛并不深（林明光早前所救过的江湖人士，后来其人参加了太平军，该江湖人士为报恩在林明光不接财物的情况下，给林明光留下个人信物，所图也只是林明光或林家人有难时可持信物找他以便提供帮助以报恩德），然而依然处死了林明光。类似通匪案曾国藩基本上都是从严从重处置，为自己迎得了“曾剃头”的外号。
而其直属部下鲍超部军纪极差，在镇压太平军战事中扰民严重，所过之处百姓家禽牲畜被抢食亦是常态。曾有乡绅写诗“将军别有鸿图志 不杀长毛杀扁毛”，可见民怨之大。对此类事情曾国藩为使部下效命，通常也就睁只眼闭只眼。
造成湘勇、淮军这类临时征召部队军纪败坏的原因，即有因此类部队饷为地方自筹而基本很难足额供应的原因，也有曾国藩这样的领兵统帅的纵容。
而曾国藩另一件即为国人广为诟病也为曾国藩自己愧疚于心和深感憋屈的事情就是“天津教案”。该案件发生原因，大的方面说是中国老百姓对列强教会殖民的愤懑；具体矛盾激化点是教会所办育婴堂儿童死亡甚重和法国驻天津领事丰大业在于知县刘杰相理论过程中，开枪打伤了知县的远房侄子刘七。民众激愤之下先杀死了丰大业及其秘书西门，之后又杀死了10名修女、2名神父、另外2名法国领事馆人员、2名法国侨民、3名俄国侨民和30多名中国信徒，焚毁了望海楼天主堂、仁慈堂、位于教堂旁边的法国领事馆，以及当地英美传教士开办的其他4座基督教堂。1870年6月24日，外国军舰来到天津，七国公使向总理衙门抗议，而以法国为首。
清朝方面派出直隶总督曾国藩来调查并与法国方面交涉，当时朝廷中的官员多数认为不要对其退让，不惜一战，情势紧张。曾国藩考量当时局势，不愿与法国开战，首先对英国、美国、俄国作出赔偿以使最后能单独与法国交涉。
同治九年（1870年）六月初十日一曾国藩到天津，立即发布《谕天津士民》，对天津人民多方指责。随后经他调查之后，确认育婴堂并无诱拐伤害孩童之事，于是在法国的要求下，商议决定最后处死为首杀人的18人（马宏亮、崔福生、冯瘸子等，行刑之日是10月19日），充军流放25人，并将天津知府张光藻、知县刘杰被革职充军发配到黑龙江，赔偿外国人的损失46万两银，并由崇厚出使法国道歉。而法国因随后发生了普法战争，无暇注意东方事务，因此接受了这个条件。
曾国藩也因此案背上了汉奸骂名。被判刑处罚的人当时普遍认为是民族英雄。
然而，曾国藩有感于列强入侵，中国军备武器落后于人每每败于对外战争，积极推动和倡导洋务运动。