清雍正二年(1724年)设中牟汛,下设板桥、韩庄、马顶堡、白沙四汛。各置官所一个,烟墩五座,有马兵一名、步兵三名,系荥阳汛分防。
雍正七年(1729年)设城守协防,有守兵五名。
同治九年(1870年)设城守营,属开封营汛管辖。有把总1名,额役兵丁35名,内分马兵8名、步兵27名;随操壮丁20名。
1913年成立侦缉队,有队长1名,士兵20名。翌年,改为警备队。
1918年,警备队改为巡缉队,设队官1名,队长3名,步兵60名,骑兵10名。
1930年,设保安队,直属于省保安处,县长兼任大队长,设大队副一名,队部设在县政府,额饷由保安处规定,地方抽收供给。后保安队改为自卫团,又改称民团。划分区后,取消团总,成立区公所,每区抽集壮丁队若干,饷械皆由各区、乡自筹,县政府接受册报。
1935年设县大队,称县常备队,设有训练机构,派有督练员、训练员,专司训练壮丁之职,此外还对学校学生进行军训。常备队下辖壮丁队。据民国24年河南省政府秘书处《五年来河南政治总报告》记载:拿县有壮丁7474名,编制八个区队,39个联队,233个小队;有刀1963把,矛2520支,土枪1712支,快枪181支。是年第一期训练队受训壮丁233名,受训时间从2月10日至6月10日,学习立正、稍息、跪下、卧倒和进行横队与纵队变换及各种步法、散兵群、散兵行的训练。1938年,国民党中牟县政府南迁贺庄。翌年常备队改为自卫队。
1938年,日伪中牟县政府在东漳成立保甲自卫团,设三个中队,近200人枪。后称警备大队。
1944年4月,日军在八岗建立日伪中牟县自卫联队。
1945年4月,原阳县抗日民主政府为了扩大抗日民主根据地,越过黄河故道,在中牟敌占区建立原阳县五、六游击区并设五、六区队,五区干队队长刘金锋,六区干队队长宋世良。两个区队共50余人,活动在黄河故道以南,县城以北,东至东漳,西至申庄一带。
1945年8月,日军投降后,日伪中牟县自卫联队原班人马改头换面,改称国民党中牟县自卫大队(简称县大队)。下设三个中队,县长兼任大队长。1948年10月中牟解放,县长崔国庆率队起义投诚,接受改编。自此,国民党中牟县地方武装解体。
1947年12月,冯国彦奉中共豫皖苏五区地委指示,来中牟开辟革命工作。他利用乡土关系在中牟、新郑、洧川、尉氏交界处展开工作。派地下工作人员陈心如打人新郑龙王乡任乡队长,逐步成为我方武装,又由我韩庄区区长赵子强组成另一区队,合成县大队,陈心如为大队长。
1948年7月,中国共产党在中牟、尉氏边境榆林赵村正式成立中牟县大队,下设两个连、100余人。大队长冯国彦(兼),副大队长袁崇功,政委吴英甫(兼),一连长李国俊,二连长杨永福。1949年发展到三个连、400余人。1950年8月县大队改为县支队。