河南省的蒙古族多数是元朝、清朝迁居或隐居的蒙古族官兵的后裔。主要散居在南阳地区和平顶山、开封市。但佐证不足，仅存有碑文、家谱以及县志等资料。
    南阳地区的蒙古族是元末明初隐居下来的元朝官兵的后裔，分镇平县晁陂和淅川县九重两支。
    1368年明朝建立，镇平县晁陂王姓蒙古族的始祖迁入中原，隐居晁陂。后人对其始祖的称呼只有“二老”，其真实姓名不可考证。1942年春，后人曾“约同族众于始祖墓所开一隧道，寻觅墓志，以证事实，乃连掘数邃，均属堆土成坟，地层不变”。1983～1987年，热心此事者四处挖掘，寻找根由，仍未见旁证。晃陂王姓蒙古族人的始祖在晁陂单传四世，始祖号二老，二世号大老，三世名贵，四世名宗，到第五代王东溪时生四子。其后代分散于镇平、南召、南阳等县，后又有一部分人陆续迁往邻近诸县。南阳地区大部分的县都有其后代，也有迁居到四川、湖北、陕西等地者。
    淅川县九重乡王姓蒙古族“祖籍东北辽东锦县金城人，讳脱脱木儿”，“元朝气数尽矣，公隐居以王为姓”。1929年九重所立“王氏祠堂碑记”把王成作为王氏之始祖。《明唐府典仪正荷塘王公墓志铭》详细记述了王成的后代王诏的生平，并追述了其始祖王成、曾祖王铎上下七代人的情况《明嘉靖邓州志》、《乾隆邓州志》、《嘉靖南阳府校注》记载有王诏以上四代人的情况。但对其族源未曾提及，有待考证。
    平顶山市的蒙古族是元朝官员马秃塔儿、宣帖木儿的后代。马秃塔儿任枢密院事，曾有功于元朝，元顺帝追封他为范阳（今北京城西南）郡侯，并敕葬叶县的荆山，其后代留居此地，繁衍下来。马秃塔儿之弟宣帖木儿曾被封为河南府尹。荆山马氏坟茔墓碑和清朝康熙、乾隆、同治年间编修的《叶县志》记载了马秃塔儿“敕葬荆山”的情况。元末农民起义推翻元朝统治建立明朝，“马氏子孙慎以胜国名臣之后获罪新朝，因仆茔中石碑及一切天禄辟邪翁仲之属而埋之”，遂更族名，改汉姓，随汉习，并立志不“仕”，有的逃往外地，有的则隐居当地。至明朝中期，社会相对安定，经济发展，明朝政府对蒙古族政策逐步放宽，马氏之后才又开始有所记载，马秃塔儿的第七代孙马龙曾多次应试，第十四代孙马夺锦曾任江西省余干县知县，并著有《念余集》，详细记载他任职时的耳闻目睹。明末农民大起义时，马夺锦 “以亲老身孤，不从居民逃窜”，身居荆山，固守坟茔，代代相继，繁衍不息。至1987年底，有1000多人。
    开封市蒙古族是清王朝派驻开封的军旅后裔。清康熙五十九年（1720年）为镇守开封，皇帝派满、蒙族官兵八旗两翼进入开封。起初是三年换防制，后改为定防制。其防军全部居住在开封市里城大院的营房里，由省理事厅专管其内部事务，地方官无权过问。民国初年，满、蒙族人口达到4000多人（包括防军家属），其中蒙古族兵占20％左右。1922年冯玉祥驻豫时，鹿钟麟派人将满洲城的城墙及营房全部拆毁，满、蒙族人被赶出去。平时有积蓄的官员多到市内买房定居，大部分兵丁则被遣散到开封附近的部分县，其中不少人逃到陕西、四川、贵州等地。1923年张福来进驻开封，流落外地的部分满、蒙族人陆续迁回开封里城，推代表面见张福来，获准在原地搭小棚定居。1949年后，大部分蒙古族人仍与满族人共同居住在里城大院，只有少部分迁居出去。
    散居于其他县、市的蒙古族人，来源方式多样。洛阳市多是1949年后，为支援河南建设从外地迁入的，其中有部队转业、调干、大学毕业分配等途径。分居于部分县的蒙古族人大都是过去在外省工作、学习、服役的河南省籍人，带回家乡定居的蒙古族配偶及后代。