清·光绪二十七年（1901），鄘南书院改为高等小学堂。当时，学堂分为高等小学堂和初等小学堂。初等小学堂课程有：国文、算术、历史、地理、格致、体育、修身、读经等8科，学制为5年；高等小学堂增加图画1科，学制为4年。宣统元年（1909），有高等小学堂1所，学生65人；两等小学堂（即完全小学）4所，学生138人；初等小学堂9所，学生238人。另有一些乡村私塾。
　　民国元年（1912），学堂更名为学校。民国3年（1914），全县36所学校改称为国民学校。课程设有国语、修身、算术、自然常识、美术、劳作和唱游。
　　民国7年（1918）8月，新乡县历史上第一所女子学校在城内大西街成立，名为新乡县培根女校，招高、初级各l班。初级班学制4年，课程有：国文、算术、习字、体操、音乐、手工、图画；高级班学制2年，增加历史、地理课。招生年龄不限，有学生约80人，全部免费。教师5人，经费由县劝学所供给。全校革新教材，取消《四书》、《五经》，音乐课学唱《放脚歌》和反帝歌曲。民国17年（1928），女子学校与第一义务小学合并为县立第二小学。
　　民国16年（1927）1月，省政府颁发庙产兴学的通令，县教育局长孙运兴奉令主持其事。完小扩至6处，初小扩至224处，县城内西街、东关和北关天妃宫设立义务小学各一所。
　　民国24年（1935），施行国民义务教育，完小增至14处，78班，学生3429人；初小增至23l处，605班，学生23290人；改良私塾103处（学生2057人）。全县入学儿童28776人，失学儿童大为减少。
　　民国27年（1938年）2月，新乡论陷，县城学校全部停办。半年以后，日军为推行其奴化教育，恢复和设立了部分学校。民国34年上半年有完小13所，学生4018人；初小161所，学生9016人，教职员544人。日军对县城较大的学校均派有日本教官，进行所谓"精神讲话"，宣扬"大东亚共荣共存"等殖民主义思想，进行封建奴化教育。
　　日军投降后，民国政府接收日伪时期的学校。民国35年（1946）至37年（1948），中心国民学校有27所；村镇、私立小学有182所，教职员1023人。教学课程有所变更，取消日语课，增加童训课，改修身为公民课。由于内战影响，教师多不安心，教学秩序混乱，学生学业荒废。
　　1949年至1950年，县委、县人民政府，根据教育面向工农的方针，采取村聘请经县批准的办法任用教师319人，并先后开办师训班5期，培养师资335人，为发展小学教育奠定了基础。1950年底，全县小学增至152所，其中新建初小5所，完小5所。初小课程有：国语、算术、音乐、图画、体育；高小增加历史、地理、自然和政治常识。
　　1952年，全县小学发展至192所，教职员增至638人，在校生28502人，其中超龄生7392人，占学生总数四分之一强；女生9820人，占学生总数三分之一强。工农子女由1950年的40％提高到85％。
　　1956年，开始使用普通话教学。1958年，小学增至204所，教师由1957年的914人增至1070人，在校学生增至36621人，学龄儿童入学率达92％。由于在校生迅速增加，致使师资严重缺乏，出现了小学毕业生教小学的现象，加之过分强调师生参加劳动等原因，教学质量受到很大影响。
　　1961年秋，开始纠正"大跃进"中教育战线左的错误，压缩中小学教育规模，停办部分民办小学。次年在校生减至25339人。
　　1965年，贯彻毛主席关于减轻学生负担的"七·三"批示，各校制订出实施方案，规定小学生每天在校活动时间不超过7小时，睡眠不少于10小时，减少学生干部会议，增加文体活动。在教学上提倡"启发式"教学，坚持"少而精"的原则，要求学校领导深入实际，调查研究，实事求是，讲求实效，不提不适当的口号，不搞形式主义。
　　1966年5月，"文化大革命"开始，部分学校停课"闹革命"。1968年学校虽然复课，但教学秩序仍未恢复正常，"读书无用"论使许多青少年受到毒害。1973年，"马振扶事件"发生后，"四人帮"借此批判所谓修正主义教育路线"回潮"，鼓吹"白卷英雄"，实行开卷考试等，一时造成教师欲教不能，学生欲学不成的怪现象，教学秩序再度遭到破坏。
　　中共十一届三中全会后，全县学校恢复与健全了各项规章制度，教育逐步走上正轨，教育事业开始稳步发展。1979年，全县小学在校生49906人，普及了初等教育。1981年，县教育部门组织各校举办观摩教学，通过试验课、过关课、教学质量大检查等活动，教学质量显著提高。为加强对小学教育的领导，1982年建立公社教育办公室（简称教办），并设立40个学区，任命了学区校长。学区校长在公社教办的领导下进行工作。各社教办均办有中师进修班，以提高小学教师的业务水平。自是年冬开始，每年开展一次全县性的优质课评比活动，在提高教学质量方面发挥了积极作用。