宋代（公元960—1279年）中國與阿拉伯（大食）關係進一步發展。據白壽彝《中國回回民族史》統計，「自開寶元年（公元968年）到乾道四年（1168年）二百年間，大食人之進貢，有明文可考者，共四十八次，差不多平均四年總有一次朝貢。」

宋朝政府十分重視國際貿易，繼續執行對外開放政策，對外商的政策比唐朝更為寬厚，國際貿易較之唐代更趨繁榮。因此，來華的阿拉伯（大食）商人比唐朝更多，地區也更廣，其勢力居外國來華商人（藩商）之首位。宋時，阿拉伯（大食）到中國的商船，多從也門的亞丁或阿曼的蘇哈爾啟航，運來的商品可分三大類：香藥、犀象和珍寶。香藥是指香料和藥品，犀象是指犀角和象牙，珍寶則包括珍珠、珊瑚、硨磲、玻璃等，其中尤以香藥為人所重，如乳香、龍涎香、丁香、肉豆蔻、檀香等。宋時的香料，以乳香之用為最廣。宋政府對於乳香，常大量收買，對於乳香貿易常作特別獎勵。1974年8月，在中國福建泉州港東南的海底，發現了一艘古代阿拉伯沉船。船體長24.25米，寬9.15米，艙內還留有來自阿拉伯、波斯的香水、藥材、檀香、水銀等物。據考證學家驗證，這是十二到十三世紀阿拉伯航海、醫學、商業發展鼎盛時期的一艘東渡商船。

宋代時，阿拉伯（大食）商人多聚居廣州、泉州、明州（寧波）、杭州等地，仍像唐朝一樣，自立藩坊。藩坊有時亦稱「藩巷」或「藩人街」，有藩長，是從大食人或其他外國人中揀選，由中國當局任命。他們穿中國官服，負責管理藩坊事務，並招攬外商來華貿易。其辦公的地方稱藩長司。藩坊中同類相犯，由藩長按伊斯蘭教法處理，官方並不過問。

為了便於進行宗教活動，穆斯林社區內建有清真寺。除據說是建於唐代（至晚也不會後於宋代）的廣州「懷聖寺」外，北宋真宗大中祥符二年（1009年，回曆400年），阿拉伯（大食）穆斯林在泉州城東南建聖友寺；南宋高宗紹興元年（1131年）西拉夫港人納只卜‧穆茲喜魯丁（Najīb Muzhiru ad-Dīn as-Sīrāfī）亦在泉州南城建清淨寺；也門穆斯林在泉州也建有清真寺；南宋恭帝德佑元年（1275年），據說是穆斯林的先知穆罕默德的第十六世孫普哈丁（Bahā’u ad-Dīn），在揚州建仙鶴寺。

在華的穆斯林不僅建有清真寺，而且根據穆斯林的習俗，還有他們頗為重視的歸真後下葬的墓地。如從林之奇的《拙齋文集》卷十五《泉州東坂葬蕃商記》、南宋方信儒的《南海百詠》、周密《癸辛雜識》續集上《回回送終》等可看出當時在泉州、廣州、杭州都有穆斯林的公墓。此外，揚州有補好丁墓，海南三亞地方也有穆斯林古墓群。