值得大书特书的是，当日军对衡阳城发起进攻的时候，却不知衡阳人军民在长期抗日救亡斗争锻炼之后，万众一心，同仇敌忾，誓死保卫衡阳，与守军一道，积极投入衡阳保卫战。
衡阳人民抗敌后援会发动民众破坏道路，毁掉桥梁，切断日军进攻路线。
日军曾派飞机侦察，得到的情报称“株洲至衡阳之铁路和宝庆至衡阳之公路，悉被衡阳居民破坏，运输设备，一无所有。”
这些任务是群众自愿参加，义务完成的。
同时，抗敌后援会和市政府、工会还组织了3000名工人，征用了市区120家木材厂商的木料120余万根，配合奉命“死守衡阳”的国民军第十军，利用衡阳周围河川、丘陵、城墙和房屋，构筑了坚固的防御工事。
城内各街道都挖掘了战壕、散兵坑，修筑了暗堡、机枪掩体铁丝网等，构成坚固的防卫体系。这些防御工事，对打击日军起了很大的作用。
但由于外围国军各部队都被打散和撤退，衡阳守军仅仅剩一个建制已经不整的第10军，大约1万7千人的中国军人守卫。