义乌历史上并无伊斯兰教，改革开放后，随着中国小商品市场的形成和扩大，信奉伊斯兰教的少数民族和国外穆斯林义乌经商者日渐增多。

2000年，在义乌的穆斯林外来人数总计260人。当时有两个自设的临时礼拜点，分别在宾王路新疆民族饭店和稠州路红楼宾馆。

2001年，随着市场的发展，在义乌设立的穆斯林国家贸易公司有20多家，主要集中在红楼宾馆附近。同年，经省民族宗教事务委员会批准，全省首处县级接纳国外穆斯林的伊斯兰教临时活动场所在红楼宾馆设立。为这一临时活动场所，市政府通过中国伊斯兰教协会，在省民宗委的指导下，特地赴北京中国伊斯兰教经学院聘请马春贞阿訇为活动场所负责人，并将这位阿訇作为特殊人才引进我市。

2002年，春季广交会期间，聚礼日人数已达500多人，红楼宾馆的场所当时只有150平米，并存在很大安全隐患。市政府对此十分重视，将原设在红楼宾馆的场所顺利搬迁至南门街200号二楼，使用面积约500平米。

同年9月，为确保广大中外穆斯林在义乌过好宗教生活，根据实际需要，市宗教局批准成立了义乌市伊斯兰教临时活动场所管理委员会。

2003年10月，广交会、义博会期间，周五聚礼日的人数已增加到1500多人，当时，《北京青年报》、《环球时报》、《今日中国》等都用了较大的篇幅报道和介绍了在义乌经商生活的穆斯林和义乌的“阿拉伯村”。国内各大网站也相继转载了这些报道，在国内外都有了一定的影响。

2004年4月，广交会期间，南门街的场所又一次人满为患，已达2000多人，市政府对此高度重视，又开始寻找合适的场所。

同年8月，活动场所又迎来了第二次搬迁，由南门街搬至江滨西路90号 (在义乌丝绸厂内)，占地面积共约20亩，活动场所大殿的面积约3000平米。

2005年至2006年，来义乌的中外穆斯林增长速度更快，每逢周五有大约5000人参加聚礼，在义乌经商居住的穆斯林约20000人。到2007年4月，聚礼日人数已接近7000人。其中国内穆斯林占40%，国外穆斯林商人分别来自也门、沙特、阿联酋、伊拉克、科威特、巴勒斯坦、伊朗、黎巴嫩、叙利亚、约旦、利比亚、埃及、阿尔及利亚、毛里塔尼亚、马里、突尼斯、摩洛哥、苏丹、巴基斯坦、阿富汗、印度、马来西亚等国家。