中国与阿拉伯均有悠久历史，双方的友好关系可以追溯到2000年前，即远在唐朝初年伊斯兰教创兴（公元622年）之前。唐代前，阿拉伯人曾在中国与西方的贸易中，起过重要的中介作用，成为丝路的一站。在中世纪，唐朝首都长安和阿拉伯阿拔斯朝的首府巴格达是当时世界上的两大文明中心。

唐朝，自公元622年伊斯兰教创兴后，中国与阿拉伯的关系进入一个新时期。约在公元七世纪中叶，伊斯兰教传入中国，从此，伊斯兰教成为联系中阿两大民族的重要纽带。阿拉伯人开疆拓域，使周边地区伊斯兰化的结果，让大唐帝国和阿拉伯大帝国直接接壤，当时双方都有发展友好关系的愿望，加之双方经济文化的繁荣昌盛以及对外实行开放政策，这一切都为中阿两大民族的密切交往提供有利条件。

据《旧唐书》、《册府元龟》、《资治通鉴》等典籍记载，在唐朝，自永徽二年（公元651年）至贞元十四年（公元798年）的148年间，阿拉伯帝国（当时随波斯人音译称其为“大食” ）曾遣使来华达40次之多。其中四大正统哈里发时期（公元632—661年）两次，伍麦叶王朝──中国史称“白衣大食”（公元661—750年）时期18次，阿拔斯王朝──中国史称“黑衣大食”时期20次。唐时，阿拉伯（大食）来华使节频繁，使节多携宝马和方物朝贡，中国皇帝也多以厚礼回赠。来者不乏假冒使节之名以贪图中国朝廷丰厚回赠的商人，亦有行商兼使节的。

阿拉伯人自古擅长经商，他们多通过著名的海陆两条“丝绸之路”来华。唐代，八世纪以来，经陆路来华的阿拉伯人大多居住在京城长安及西域城镇。当时的长安是一个国际都市，各国使节、游客、商贾云集，住在长安的外国人数以万计，其中不少是阿拉伯人。长安西市为胡商贸易专区。二十世纪六十年代在西安郊区晚唐墓中曾出土3枚阿拉伯金币，分别铸造于阿拉伯伍麦叶王朝（白衣大食）时期的公元702、718和746 年，金币随葬约当于公元八世纪下半叶至九世纪上半叶，应是当时中阿人民通过陆地丝绸之路往来的最好实证。

据考，最早通过海路来中国经商、侨居的阿拉伯人多为来自当时以苏哈尔（唐代古籍称“没巽”，宋代古籍称“勿巡” ）为都城的阿曼（中国古籍译为“瓮蛮” ）。唐朝中阿来往贸易的港口，在阿拉伯世界除上述阿曼的苏哈尔外，古籍中提到的还有巴士拉（古译末罗）、伍布莱（al-’ubllah，古译乌剌，在阿拉伯河左岸，毁于阿拔斯朝哈里发穆耳台米德在位期间的公元870—892年）、西拉夫（Sīrāf，古译尸罗夫，位于海湾东岸的商镇，现在伊朗境内，毁于公元977年地震）、巴林、亚丁（古译阿丹）。中国的商船可直通巴格达，巴格达有专卖中国丝绸和瓷器等货物的市场，亚丁也有中国商品。

通过海上丝路来华的阿拉伯商人多侨居于中国沿海的广州、泉州、扬州、明州（浙江宁波）等港口城市。唐朝重视外商来华贸易，先后在上述城市设立市舶司。市舶司兼有管理海外贸易、税收和外事机构的性质。广州节度使、岭南节度使都负有招徕藩商、鼓励外贸的责任。当局采取优待外商政策，如唐文宗大和八年（公元834年）曾颁布诏令，命有关节度观察使对藩客（外商）要“常加存问。除舶脚、收市、进奉外，任其往来通流，自为交易，不得重加率税” 。唐朝政府尊重阿拉伯商人的宗教信仰、风俗习惯，有些地方还建立了清真寺，当时称“礼堂”。

唐朝对外商采取的种种优惠政策和有利条件，使来华经商侨居或定居于沿海商埠的阿拉伯人（包括当时阿拉伯帝国所辖的波斯人）愈来愈多，数以万计。阿拉伯文典籍《中国印度见闻录》（’akhbār as-Sīn wa al-Hind）在记述九世纪七十年代末黄巢攻陷广州时称：“仅寄居城中经商的伊斯兰教徒、犹太教徒、基督教徒、拜火教徒，就总共有十二万人被杀害。”当时在广州的阿拉伯（大食）人之多，由此可见一斑。