中國與德國分列亞洲東部和歐洲中部，相距甚遠，和西歐其他國家相比，很晚才有直接往來，主要原因是多個世紀以來，德國諸邦林立，經濟落後，航運和外貿遠遠不及西歐諸國。但西歐諸國來華的商人、傳教士和探險家所寫的書信、報道和遊記等卻早已在德國，特別是君主王侯和知識界中流傳。早期兩種文明的交匯，始自蒙古西侵。而中德之間的零星接觸，通常認為以十四世紀初天主教方濟各神父阿諾爾德（Bruder Arnold）來華為起始。

阿諾爾德於1303年由科隆來到元大都（今北京）佈道，得到較早來北京的意大利方濟各會神父孟特高維諾（Giovanida Montecorvino）幫助。1336年（元順帝至元二年），在華的天主教徒上書羅馬教皇請派主教，元順帝同時亦頒給教皇諭旨一道，遣使前往。使節團主要首領是德意志拿索人威廉（Wilhelm von Nassau）。諭旨中稱：「朕使人歸時，仰爾教皇，為朕購求西方良馬，及日沒處之珍寶，不可空回也。」1354年，德皇查理四世重金聘請佛羅倫斯人馬黎諾里（Marignolli）到德意志蘭（此人在1338至1353年曾奉教皇命使至東方），命修波西米亞史，內有馬黎諾里遊記，寫到中國朝廷與羅馬教皇通聘事跡。在這個時候，中國人並不知道德國。十四世紀中葉中國的旅行家汪大淵，曾附舶浮海，前後兩下東西洋，其所撰《島夷志略》兩卷，當中曾提及德國，但並非親身經歷，是聽海外人言後記錄下來。

但細考中德的接觸和文化交流，為期甚早。十三世紀蒙古大將拔都率軍西侵歐洲，曾遭到「孛烈兒乃、捏米思」部的聯合抵抗，其事載《元史‧兀良合台傳》。「孛烈兒乃」當為波蘭，「捏米思」即德意志人，「德意志人」一詞見諸中國史籍，這大概是最早一次。但《元史》記載事件發生的時間為1245年，可能有誤。德國史籍中載的里格尼茨（Liegnitz，今波蘭的Legnica萊格尼察）戰役，由下西里西亞公爵亨利希二世統帥的波德軍隊，被蒙古人打得大敗，時間為1241年，更為可信。成吉思汗以其蒙古鐵騎橫掃亞歐，造成嚴重破壞，但同時也將亞歐大陸聯成一氣，使其所克諸國之間的文化相互傳播，造成中德民族接觸和文化交流的前提。

比較起來，中德交往晚於西歐其他國家，交流程度也較小。因為德意志帝國自十四世紀以來政治上日益分裂，經濟發展緩慢，遠洋航運及海外貿易都落後於葡、西、荷、英、法諸國。宗教改革和農民戰爭時期諸侯混戰，特別是三十年戰爭，更使德意志民生凋敝，奄奄一息，一蹶不振達兩個世紀之久。所以這時期的中德交流，往往在歐洲範圍內才能看到。