民国16年（公元1927年）6月北洋军阀垮台，经过短期的军警合作恢复地方秩序，至6月11日冯玉祥为省主席后，即委关树人（北京人）为省警务处长兼省会警察厅长。12月21日遵照中央"废除警察处、厅、局、所旧官制一律改为公安局"的指示，省会警察厅改组为省会公安局，关树人继任局长，同时取消省警务处，受省府民政厅管辖。
    翌年1月经省府批准，省会公安局增置政治部，设主任、秘书、政治员若干名，同时巡长改称警长，巡警改称警士。
    民国18年（公元1929年）10月遵照国民政府公布的《省警务处组织法》，成立河南省警务处，总辖全省警政，委王恺如（江苏睢宁人）任省警务处长兼省会公安局长。局内设政治部、秘书长、督察处、技士处、总务科、行政科、司法科、卫生科、收支处、蔗务处、捐务处、收发处、户口处、监印处、路工厂、守卫队、保安队、消防队、侦缉队、警乐队及附属机关平民医院、中山市场管理处、警察教练所、烈士祠、妇女织工厂（收容所）等，局下辖东、西、南、北、南关与4郊区6个警察署。
    民国19年（公元1930年）10月20日刘峙任省主席后，省警务处复撤，委李国盛（字清五，湖北监利人）任省会公安局长，取消政治部改设训练处，成立自行车队，组织60名人员并各配马枪1支，进行地面巡逻，又在侦缉队外组织专门侦缉共产党员的便衣队30人，队长为崔森。
    民国21年（公元1932年）4月省会公安局各区警察署，一律改为某区公安分局。署长改称分局长，署员改称局员，警察分署改称分所。同年12月刘濯清（字竹泉，河北保定人）任省会公安局长时，调整局内机构，设秘书、督察、训练3处，改总务、行政、司法、卫生为一、二、三、四科，改便衣队为特务队，局下仍设6个分局，分局下各设4个分所，共有警官173人，长警1635人，枪856支。
    民国23年（公元1934年）10月王尊五（湖北沔阳人）调任局长，变更该局组织，将秘书处改为秘书室，督察处设勤务、调查两股，训练处设编审、训校两股。第一科设文书、会计、庶务3股。第二科设治安、公用、户籍3股。第三科设审讯、检查两股。第四科设保健、医务两股。将保安队扩充为保安第一队，守卫队改为保安第二队，消防队扩充为第一、二分队。6个分局各缩为一、二、三分驻所，各城门增设派出所。全局共有官警、职员、公役2271人。其中，各科室处95人，各队430人，各分局1283人，附属机关463人。
    民国27年（公元1938年）春，程潜任河南省主席时，调杨蔚（字廷芳，河南商城人）充任局长，改省会公安局为省会警察局，公安分局改为警察分局。
    同年6月5日开封沦陷后，商会宋海亭等人商同陈铁珊纠集地痞流氓与旧官警500余人，组建开封临时警察局，陈铁珊任局长。局内设总务人事（第一科）、行政（第二科）、司法（第三科）、卫生（第四科）及守卫队、消防队，外辖东、南、西、北、南关5个警察分局。
    8月，伪开封临时市政公署成立，改开封临时警察局为开封临时市政公署警察局，隶属于市政公署，局长由周秀庭充任。除保留原机构外，增设保安、调查、经济、特务等科与督察室、侦缉队及4郊区警察分局，局址在大纸坊街路北（现五中家属院）。
    翌年6月30日开封临时市政公署警察局改组为河南省会警察局，直属于伪河南省公署警务厅。局内新置省会警察局骑巡队，负责在城郊巡逻。队址在理事厅街，附属于4郊区警察分局。
    同年8月21日，日军为统一各级警察机构名称，将伪河南省会警察局改称河南省会警察署，局长改称署长。内部改科为课，股改为组，设秘书、督察长、督察员、课长、组长、办事员、警官、警士，东、南、西、北、南关及4郊各区警察署分别改为河南省会警察署第一、二、三、四、五、六分署，分署设分署长、通译、警官、警士，其警察队、骑巡队、消防队都冠以河南省会警察署某某队，设队长、警官、警士等，全署共975人。
    日伪河南省会警察，虽分别隶属市政公署与省警务厅，但其内部人事、业务统由日军驻开封宪兵队直接掌握。各课、室、队、分署均派有日本人操纵。1939年6月3日河南省公署令开封陆军特务机关属托治安工作主任海云帆为特殊工作员，派该局指导工作。1942年5月22日日本人蛭田午次被伪河南省省长陈静斋聘任为"河南省政府专员"派到省会警察署服务。日本人古凡被任命为省会警察署的顾问，实际上他们是警察署的太上皇。
    民国34年（公元1945年）8月抗日战争胜利。9月河南省警察总队返汴恢复省会警察局，暂由总队副宋复初代理局长。10月齐惠吾奉命接任河南省会警察局局长，局址在省府西街路南。管辖护城堤以内6个行政区，受河南省民政厅领导（1946年8月1日省警务处成立后受警务处领导）。局内设5科（总务、行政、司法、外事、刑侦）、1处（督察）、5室（秘书、会计、训班、统计、指纹）、2所（济良所、拘留所）、3队（保警、消防、警乐）计146人，外辖东、南、西、北及南关5个分局，原4郊区分局因经费少，地面暂分配各分局管辖。翌年7月1日省府将皂庙镇警察局撤销，归并省会警察局为第六分局，担任4郊区警察业务。宋进忠为分局长，有官警12人，长警100人。
    同年10月8日按省政府颁布的省会警察局组织规定，将原编制调整为总务、行政、司法、外事4科（刑事侦察科改为队）、3室（秘书、会计、统计）、训练室取销归并督察处，指纹室并人司法科，3所（拘留所、济良所、医务所）5队（清道、保警、消防、警乐、刑警队）、外辖6个分局、18个分所、共有官警1220人。
    1948年6月22日开封第一次解放，省主席刘茂恩被撤。8月省会警察局局长齐惠吾辞职，9月张轸任省主席后，省警保处（原省警务处）派宋进忠接充局长，中共地下党员王凌霄被委任省会警察局督察长。