一、族源
    （一）回回先民 唐、宋时期，阿拉伯、波斯（今伊朗）等国家的“蕃客”到长安（今西安市）、洛阳、开封及其他地方经商或从事政治、宗教活动。主要路线或从沿海口岸经安徽省、河南省固始、光州（今潢川县）、南阳向西，由陕西南部到长安；或由安徽省正阳关（今安徽寿县西），河南省周家口（今周口市）、郾城、洛阳到长安；或由安徽省颍州（今阜阳）、亳州（今亳县），河南省商丘、开封、郑州、洛阳到长安。这些“蕃客”在洛阳长期经商或居住，也有落户者。唐玄宗天宝五年（746年），曾有“胡商”③在魏郡（今安阳市）经商。宋太祖开宝元年（986年）至宋徽宗政和六年（1116年），大食人曾朝贡46次，平均3年朝贡1次。宋皇室和官吏、富豪之家每年从阿拉伯、波斯进口大量物品，尤其是香料、药物、象牙、犀角和珠宝，这些物品多由“蕃客”运来。北宋政府对前来经商或定居的穆斯林持友好态度。江苏省南京市梁姓回族家谱序言记载，其第一代始祖梁柱于北宋神宗熙宁年间（1068～1077年），从西域到开封，做金疮科御医，至第九代梁继六率本支人口迁到南京定居。新野县有一支马姓，先祖马依泽，西域鲁穆人，宋太祖建隆二年（961年）入宋修历书，两年后书成，上呈朝廷，被授予钦监监正，世袭侯爵，后定居陕西省泾阳县永安镇。第十一代马乾玠于南宋理宗绍定五年（1232年）任南阳府知府，遂入籍河南省新野县，后有迁往湖北、安徽、河北者。这些定居在河南省的阿拉伯、波斯等国信仰伊斯兰教的商人和其他人构成回回的先民，其后裔成为河南省回族来源的一小部分。
    （二）探马赤军屯田 成吉思汗西征后，大批中亚细亚各族人，波斯人和阿拉伯人被迫到中国。其中，有军士、工匠、妇孺，也有学者和社会上层分子，同时，还有自愿东来进行贸易的商人。元朝官方文书称这些人为“回回”，被列为当时“色目人”中的一种。东来的回回军士被编入“探马赤军”参加忽必烈统一全中国的战争。探马赤军“上马则备战斗，下马则屯聚牧养”。至元十年（1273年），元世祖下令：“随处入社，与编民等”。此后，一部分过着兵农合一的生活，即“屯戍”户，一部分人在社的编制下，取得普通农民的身份，屯聚和牧养。
    元太宗窝阔台汗三年（1231年），回回大将曷思麦里率军伐金，驻军怀孟（今沁阳、孟县一带）。其祖孙四代在怀孟州为官，其部下多来自中亚，至今他们的后代仍有在此定居者。穆罕默德·阿力率军到沈丘、淮阳一带屯田，沈丘槐店清真寺中的建寺碑记载了这一事实（此碑“文化大革命”中被毁）。元世祖至元八年（1271年）“立南阳屯田总管府，……屯田一万六百六十三顷七亩。”回回军士被编入屯田点，或聚居，或与汉族杂居，聚居的地方逐渐发展成为回族聚居村镇。明洪武年间（1368～1398年）南阳县尚存61屯，其中，石桥屯、瓦店屯、玉池陂（今黄池陂）等12屯 至今仍是回族聚居之地。至元十八年（1281年）诏令“括回回炮手散居他郡者，悉令赴南京（今开封市）屯田”宣武将军阿老瓦丁率回回炮手进住开封附近。
    封丘县荆乡回族乡（原名荆圪塔村）回族中有一李姓大户。李姓来源有二：一为“军李”，系元朝屯田军士的后裔；一为“民李”，系明初的移民，“军李”人口多于“民李”，河南省回族中李姓的祖籍多源于荆乡。
    探马赤军到河南省屯田，是因为“河洛、山东居天下腹心”今省内地名中有叫“回回寨”、“回回营”、“回回凹”、 “教门村”者，多是元代探马赤军屯田之地。这些散居河南省各地的回回人，是河南省回族来源主要成份。
    （三）民族融合 河南省回族在长期的形成过程中，其他民族成份的加入也构成了回族的重要成份，主要是通过婚姻的形式加入。《明律》规定：“凡蒙古、色目人，听与中国人为婚姻，不许本类自相嫁娶。违者杖八十，男女入官为奴。 ”明洪武五年（1372年）诏书：“蒙古、色目人现居中国，许与中国人结婚姻，不许与本类自相嫁娶。”强迫回汉通婚。伊斯兰教规定，凡与伊斯兰教徒通婚者，必须是伊斯兰教徒。因此，与回族人通婚的汉人信仰伊斯兰教后也自称回族。同时，由于社会、经济等原因，一部分汉族人信仰伊斯兰教，随之改变了民族成份。此外，元朝有一部分畏兀儿人来河南省，因为宗教信仰和风俗习惯等原因，逐渐融合于回族之中。光州的马祖常，是著名的元代文学家，即畏兀儿人，其后裔已融合于回族之中。
二、迁徙
    在长期的历史过程中，由于种种原因，回族经常出现迁徙现象。中华人民共和国成立以前，主要有以下几种方式：
    一是强迫迁徙。元末农民起义爆发后，河南省是主要战场之一。受战争影响，全省人口大量减少，土地大面积荒芜。明初，政府强迫山西等人口相对较多的地方向河南省等地移民，其中也有回族人。现今分居于全省各地的回族人中，有说他们老家是山西省洪洞县大槐树底下者。该处在明初是移民转运站，凡被迁徙之人不论原籍在何地，迁出时籍贯一律改为洪洞县。回族人除说老家是洪洞县外，还加上枣林、枣营、石榴园等，以区别于汉族。孟县桑坡村丁姓系明洪武年间（1368～1398年）从洪洞县迁来，后裔在明代即迁居全省各地，至清代又分散到国内十几个省。禹县山货厂回族乡赵姓也系明洪武年间从洪洞县迁来，淮阳县穆姓系明隆庆六年（1572年）从洪洞县枣林移民而来。
    二是避祸隐居。明洪武十三年（1380年），丞相胡惟庸以“谋反”罪被杀，株连15000人，一些官员逃到河南省避难。睢县刘姓、钱姓先祖都是因躲避捕杀而隐居者。
    三是因战乱，灾荒迁徙。太平天国运动时期，南京、浙江、安徽、山东等地的回族人迁入豫东地区。西北回民起义失败后，有不少人为避难入河南省，开封市“马客伙”内有部分人即是此时迁入的。抗日战争时期，大批回民逃到陕西、甘肃、宁夏和四川等地。西安市解放路两旁、北门外铁道北是回民集中聚居区，其中一半是外籍人，河南省籍者占多数，均于抗日战争期间迁到西安。
    四是因经商迁入。济源县袁姓族谱记载：该姓原系北京香椿胡同人，明代因经商迁居开封东大街，再迁沁阳县水南关，清初又迁至济源县庙街镇下街村。镇平县水姓原系陕西渭南县良天坡镇人，明末因经商而迁居镇平县。洛阳市瀍河回族区“油坊马”“出于陕西扶风县，自明朝初经商于洛，因家焉。”山东济宁市和菏泽市的回族手工业较发达，不少人移居河南省东部经营皮毛、皮革业。五是阿訇迁入。河南省伊斯兰教清真寺②实行阿訇聘请制，而且有聘请西北人来当阿訇的习惯。河北、北京、山东、安徽、江苏、湖北等地的回族人也有定居河南省任阿訇者。清朝康熙年间湖南辰州（今源陵县）回族人舍起灵（约1630～1710年）曾在襄城县石羊街清真寺任阿訇。河南省也有因任阿訇而移居外省者。
    中华人民共和国成立前后的土地改革运动中，有数万城镇回民迁到农村分田务农。1956～1957年，河南省回族人响应国家开发大西北的号召，有2400多人以集体移民的方式到青海、甘肃、宁夏、陕西、新疆等地支援经济建设。此外随着学生升学，大学毕业生分配工作，干部、职工的正常调动和不同地区的联姻，回族人在省内外时有迁徙。