晚清太平天国起事后，各地都兴起了团练，俗称为勇。清代的勇与兵有严格区分，勇是团练即民兵，兵是正规军。咸丰末年，为了对付太平军，河南巡抚严树森曾招募了六百名陕西回勇往开封协防，事毕后回陕遣散，为陕 西团练大臣张芾所留用。适逢太平天国扶王陈得才勾结捻党，在同治元年从河南经由武关入陕西，陕西大乱，这批被征的回勇乘乱散走。一批原籍同州、散伙归家的回勇走到华州（今陕西华县）圣山小张村，有个回勇看上了村边的竹子，与姓王的园主商定，每斤铜钱20枚购买。正在砍竹子时，主人的父亲来了。老头得知卖竹子的情况后，觉得价钱低了，想反悔。但是，老头不是责怪自己的儿子不会做买卖，而是诬陷砍竹子的回勇是偷竹子，双方发生了冲突。恐怕谁也没想到，这一冲突，竟然导致了一场惊天动地的大乱。
只是在钦差大臣多隆阿（1817—1864年）到达以后，清朝才开始转败为胜。多隆阿原来是一名八旗军军官，因胡林翼的提拔而升任湘军将领（在他麾下的那一部分湘军名为楚勇）。1861年，多隆阿帮助曾国荃从太平军手中收复了安庆，他自己在1862年攻克了庐州。他的勇营被证明在对付回民时同样有效。1863年3月，多隆阿的勇营攻占了陕西东部作为东干人主要基地的两个市镇。他在8月间打破了对西安的封锁，把回民赶到了陕西西部。1864年3月他死于对侵犯陕西的四川太平军的战役中，这时他已扑灭了陕西省的回民叛乱。可是大批陕西回民却逃入甘肃，参加了在那里早已起义的人数众多的回民部队。
甘肃的叛乱似乎是回民首先发难的，马化龙的新教教徒则在其中起了很大的作用。早在1862年10月，某些回民领袖就传话，说清朝即将大肆屠杀回民，所以他们组织起来包围了灵州这个位于马化龙基地金积堡以北四十余英里的大城市。与此同时，回民在甘肃东南部攻打了固原，这是横跨一条交通要道的战略冲要城市。驻兰州的总督恩麟发现只有和为上，别无他法。在他的建议下，1863年1月北京为甘肃下了一道特旨，重申对回民的不歧视原则。但是甘肃与陕西一样，回汉双方地方队伍都倍蓰增加，冲突与日俱增，所以四年之内除省城和其他少数几个城市外，全甘肃省几乎都被回民部队占领。
