但是，我军付出了很大的代价。老红军战士、16团团长谢家庆在激战中牺牲了，年仅28岁。 谢家庆，河南光山人，1931年参加红军。红军时期历任班、排、团长等职，曾负
伤5次。百团大战期间，所部与决死队的两个团38、25团组成左翼纵队，在战斗中充分发挥了骨干示范作用。这样一位身经百战而又年轻有为的优秀指挥员的牺牲，是八路军，特别是129师陈赓旅的一个重大损失。 战斗还在外围激烈进行。
日军2500多人，分别从武乡、辽县向关家垴增援，遭到陈锡联旅（385旅）和范子侠旅（新10旅）的阻击。激战中，旅长范子侠负伤。
除此之外，黎城、潞城也集结了上千名机动部队，正准备向关家垴增援，陈赓旅（共4个团）派出一团前往阻击。
所以广义的关家垴之战，是一场我军有4个旅（决死队两个团可合计为1个旅）、敌军有4000多兵力参加的大战役。
武乡城距关家垴仅三四十公里，即汽车一小时的路程，辽县、黎城、潞城均在100公里的范围之内。我军有被敌军反包围的危险。
但彭德怀还是决意拿下关家垴。
在长期的反扫荡斗争中，彭德怀发现了敌人的一个规律：一路敌军通常由500人左右的一个大队组成。他认为，如果我军能随时，乃至在不利的条件下歼灭日军的一个大队，敌人就不得不集中更多的兵力组成一路人马。这样，敌人扫荡的次数和范围就会减少。因此，他很重视一次歼灭敌人一个大队的战斗。
百团大战期间，彭德怀在战争初期就向各部提出了这样的要求。在8月27日的命令中，他提出：
特别应对出击或来援敌一个大队以内的兵力，集结最优势之兵力歼灭之。只有歼灭敌一两个大队，才能顺利的扩张战果。
8月29日，他又再次下令：
对增援出扰之敌在一个大队以下之兵力，务必予以歼灭。两集团（聂和刘、邓）均应有歼灭敌一个大队以下之兵力之任务……
彭德怀这一思想得到过验证。9月6－7日，129师16、772、25、38四个团，也就是攻打关家垴这4个团在和顺双峰歼灭日军的一个支队的大部400余人，从而胜利地结束了129师战区内的百团大战第一阶段。
但除了双峰之战一次歼敌一个大队外，百团大战期间还没有别的战斗具有这种性质。对此，彭德怀是不满意的。他多次批评某些部队“对于争取胜利不认真，对于敌人的惧怕……部队顽强性不够”，“不决心作战”，并认为这是“形成目前严重被动性”的军事上的原因。
彭德怀的这种批评有其正确之处。某部在总结中提到这样一个战例：
11月25日，阜平南退之敌1000余人沿途受到我军袭击，有时一日仅能后撤15里，处境“异常狼狈”，一直到12月1日才退回灵寿县城。从阜平到灵寿，不足100公里，整整退了7天，途中又被我军打得“未得洗脸”，“未得饱食”，“无进房无休息，没有睡觉的时间”。但正如军区总结所说：“所为可惜者，由于自己主力没有集中掌握在手，致使有可能消灭之敌逃去。”
在百团大战参战的三大集团中，聂集团的老底子是杨成武独立团，连同一些零星部队与干部在内也仅3000人。贺、关集团虽有8000人的老底子，但一部已由副师长肖克率领开辟平西根据地，主力又开赴陕甘宁，所以在以往的部署中，彭德怀也没要求120师一次歼敌一个大队。相对而言，129师实力最强，因而对总部的主要战役意图都坚决执行了。第一阶段破击正太路，破了235里，占总数的76％；强攻榆社城，首开用攻坚手段改变县城的先例；一次歼敌一个大队的仗也打了，并认为反“扫荡”“一定要作到消灭它的一个大队”。
刘伯承、陈赓一见彭德怀如此坚决，便认真组织继续攻打关家垴。
10月31日，对关家垴的再次总攻开始。
彭德怀不听左、徐等人的劝阻，倔强地走出指挥所，亲自来到距关家垴敌军中心阵地仅500米的战壕作近距离观察。
这个勇猛的老兵，背靠在狭小战壕的背面，一只脚踏在战壕的另一面，双手端着望远镜，仔细地观看着敌人的阵地。整个身子，除了斜站着的左腿外，全部暴露在战壕的外面。
随军记者肖冰也机灵得很，一下就拍摄了这个珍贵的镜头。这一照片被广泛地刊登、转印，为人们留下了八路军在敌后艰苦卓绝、英勇战斗的写照，成为人们熟悉、珍爱的彭德怀形象。
总指挥所内，左权对即将出征的警卫连作了战斗动员。他说：
“关家垴战役已到了关键时刻，不能让敌人死守待援，养兵千日，用兵一朝，你们要以勇不可当的精神冲上去，解决战斗！”
这个连共154人，90％是老红军战士。连长唐万成，是1930年在江西入伍的老红军，个头高大，体格健壮，枪法准，摔打、劈刀都有绝招，先后负过20多次伤，是一位屡立战功的英雄。
唐万成率领战士从彭副总司令身边走过，一个个向首长行了注目礼。彭德怀严肃地目送着他们，希望他们打出老红军的样子来。
左权、徐向前也从指挥所来到战壕，同彭德怀并肩站在一起。
刘、邓、陈指挥的主攻部队也做好了战斗准备。
“开炮！”下午16时，彭德怀亲自下令。
总部炮兵阵地的迫击炮连续不断地向敌人垴顶阵地轰去。
冲锋号响了。
由总部特务连和772团第一连组成的冲锋队在前头开路，大部队紧跟而上。
战士们冲进了敌人的中心阵地，开始和最后一批敌军展开肉搏。
只见唐万成挥动一把大马刀，有如神兵天将，劈得敌人像麦秸秆般地倒下。彭德怀高兴地说：
“打得好！这才像个样子！”
战斗结束了，彭德怀、左权、刘伯承、邓小平、徐向前、陈赓齐登上垴顶，仔细察看了敌人的临时工事、暗堡掩体、火力配置。刘伯承观察得特别仔细，还指示参谋人员将敌人的阵地一一绘制成图，绘成了《关家垴敌工事构筑图》，并指示部队注意保护现场。
这一仗，我军付出了相当大的代价，共伤亡600余人，其中772团的第一连仅剩下3人。冈崎大队大部被歼，仅阵地上就留下了280多具尸体和三大堆火化了的骨灰，估计约50多人。从尸体的军服看，打死的大尉军官有两人（中队长以上）、中尉军官4人（小队长或中队长），少尉军官1人。另俘日伤兵两人。缴获山炮2门，轻重机枪十余挺，步枪300余支，骡马200余头（匹），其他军用品极多。
关家垴之战，给予日军巨大震撼，华北方面军只得宣布，于11月2日结束“毁灭战”。
彭德怀对关家垴之战“打得比较苦些，伤亡也比较大些”深感不安，刘伯承却调动部队又在原地“打了一仗”。他将原参战部队分成甲乙两方，一方当“日军”，一方当我军，又真枪实弹地“打”了起来，似乎上次还没打足瘾。
除了实战演习外，这位担任过红军大学校长的军事专家还在全师营以上大会上作了关于关家垴战役的专题报告。其中讲到：
敌防守时，一般较为顽强，夺取制高点，往往均占领两个以上，互为依托，互相策应，构筑工事，固守待援。如关家垴、西林背。
敌对土工作业异常注意，无论进攻或防御，均能迅速筑构工事。一般的掩体，均有掩蔽部，并有预备阵地。对阵地的选择也较为适当，掩体均筑于棱线后面一二十米处，以减少火力的杀伤，并专筑有消灭死角的工事。
敌因关家垴战斗的经验，（出击时）一般采取楔形队形。
敌进我进……趁敌归巢时打击其一路或二路。（关家垴之敌系犯黄烟洞兵工厂受挫后准备返回沁县之敌。）（69）
