1938 年，抗日大暴动的风涛漫卷冀东大地。7月15日耿玉辉宣布起义。组成抗联第十八总队，耿玉辉任大队长。8 月中旬，八路军第四纵队进驻铁厂镇。第十八总队编为抗日联军第五总队，耿玉辉任该总队第三大队大队长。不久，又调任抗联第五总队总队长。10月上旬，耿部奉命向平西转移，第五总队被改编为挺进军第三十二大队，耿玉辉任大队长。耿玉辉从严整顿所部的军风军纪，群众颂扬耿部是“ 仁义之师”。1939 年4 月，耿玉辉调任挺进军司令部参谋。11 月返回冀东任新组建的第七总队队长。1940 年初，冀东区党分委在遵化县阁老湾召开会议，决定开辟以鲁家峪为中心的丰玉遵游击根据地，建立区、乡政权。耿玉辉率领少量干部战士先行进入，利用本人在当地的声望，建立了报国队、妇救会、儿童团等抗日团体，并培养了一批党员和政治可靠的堡垒户。军分区司令员李运昌不止一次地说过：“ 开辟鲁家峪抗日根据地，耿玉辉起到了非常重要的作用。”
1940 年8 月，八路军第十三团成立，耿玉辉任三营营长。在包森指挥下，有名的打治安军战役中的东双城攻坚战、刘备寨和东梁子河伏击战、果河沿运动战都由三营担负主攻，为完成战役任务立下汗马功劳。1942 年，耿玉辉转任丰玉遵联合县县长。1943 年1 月4 日，耿玉辉来到藏山庄。入夜，与警卫员肖景玉4 个人隐蔽到大街西头堡垒户家的地洞里。翌日凌晨，听到洞口有动静，耿玉辉判断已被敌人包围，并感到突围已无可能，于是，4 人烧毁所有文件、钞票，砸烂手表、枪支，仅留一支手枪。4 名战友紧靠地洞四壁、誓约共同殉国。耿玉辉从容饮弹，壮烈为国捐躯，时年42岁。
