宋代（公元960—1279年）中国与阿拉伯（大食）关系进一步发展。据白寿彝《中国回回民族史》统计，“自开宝元年（公元968年）到乾道四年（1168年）二百年间，大食人之进贡，有明文可考者，共四十八次，差不多平均四年总有一次朝贡。”

宋朝政府十分重视国际贸易，继续执行对外开放政策，对外商的政策比唐朝更为宽厚，国际贸易较之唐代更趋繁荣。因此，来华的阿拉伯（大食）商人比唐朝更多，地区也更广，其势力居外国来华商人（藩商）之首位。宋时，阿拉伯（大食）到中国的商船，多从也门的亚丁或阿曼的苏哈尔启航，运来的商品可分三大类：香药、犀象和珍宝。香药是指香料和药品，犀象是指犀角和象牙，珍宝则包括珍珠、珊瑚、砗磲、玻璃等，其中尤以香药为人所重，如乳香、龙涎香、丁香、肉豆蔻、檀香等。宋时的香料，以乳香之用为最广。宋政府对于乳香，常大量收买，对于乳香贸易常作特别奖励。1974年8月，在中国福建泉州港东南的海底，发现了一艘古代阿拉伯沉船。船体长24.25米，宽9.15米，舱内还留有来自阿拉伯、波斯的香水、药材、檀香、水银等物。据考证学家验证，这是十二到十三世纪阿拉伯航海、医学、商业发展鼎盛时期的一艘东渡商船。

宋代时，阿拉伯（大食）商人多聚居广州、泉州、明州（宁波）、杭州等地，仍像唐朝一样，自立藩坊。藩坊有时亦称“藩巷”或“藩人街”，有藩长，是从大食人或其他外国人中拣选，由中国当局任命。他们穿中国官服，负责管理藩坊事务，并招揽外商来华贸易。其办公的地方称藩长司。藩坊中同类相犯，由藩长按伊斯兰教法处理，官方并不过问。

为了便于进行宗教活动，穆斯林小区内建有清真寺。除据说是建于唐代（至晚也不会后于宋代）的广州“怀圣寺”外，北宋真宗大中祥符二年（1009年，回历400年），阿拉伯（大食）穆斯林在泉州城东南建圣友寺；南宋高宗绍兴元年（1131年）西拉夫港人纳只卜‧穆兹喜鲁丁（Najīb Muzhiru ad-Dīn as-Sīrāfī）亦在泉州南城建清净寺；也门穆斯林在泉州也建有清真寺；南宋恭帝德佑元年（1275年），据说是穆斯林的先知穆罕默德的第十六世孙普哈丁（Bahā’u ad-Dīn），在扬州建仙鹤寺。

在华的穆斯林不仅建有清真寺，而且根据穆斯林的习俗，还有他们颇为重视的归真后下葬的墓地。如从林之奇的《拙斋文集》卷十五《泉州东坂葬蕃商记》、南宋方信儒的《南海百咏》、周密《癸辛杂识》续集上《回回送终》等可看出当时在泉州、广州、杭州都有穆斯林的公墓。此外，扬州有补好丁墓，海南三亚地方也有穆斯林古墓群。