中國古代船舶的起源，可以說是由浮具開始，因它比筏子和獨木舟更早出現，是人類最早使用的水上工具。浮具所使用的物料包括倒下的樹幹、脫落的樹枝，以及隨處可見的竹竿和蘆葦。樹幹、竹竿、蘆葦等本身浮力小，需要束捆起來使用；而葫蘆則具有體輕、浮力大、防水性強的優點。古人一般將三四個葫蘆串接起來，縛在腰間，入水後人半沉半浮，利用手腳划水前進，古代稱這種浮具為腰舟。

據古籍記載，伏羲氏時代人們主要使用筏子，到黃帝時才出現舟。換言之，是先有筏子而後有舟船。獨木舟最遲大約在七千年前就已經出現，初時的獨木舟結構極為簡單，一般是撈取一段槽狀朽木並將其內部稍加整理，或者將一段樹幹砍挖成槽，然後削去外面的旁枝和樹杈。古代木板船不但從獨木舟演化而來，而且它那矩形船體還保持着整木的基本造型。

舫，就是兩船並列。中國早在西周時就有舫，漢代也常使用。舫的船行速度較慢，但航行時相對地平穩，古代皇室、貴族們往往加以裝飾，稱為畫舫。雙體畫舫的圖像資料很缺乏，目前所見最早者是東晉顧愷之所繪《洛神賦圖》。

到了春秋戰國時期，較大的諸侯國都有自己的造船業。其中尤以地處長江中下游的楚、吳、越三國及雄踞山東半島的齊國最為發達。吳、越兩國的造船基地都有相當規模的造船能力。

隨着大運河的開通，隋朝的造船業有了進一步的發展。隋煬帝在位時，派人往江南採購木料，以製造龍舟、黃龍、赤艦、樓船等，並於大業元年（公元605年）秋，帶領后妃、百官等乘坐龍舟，從洛陽出發沿新開鑿的運河遊幸江都（即江蘇揚州），各類船隻總數超過五千多艘，前後相接，長達二百餘里，顯示了隋代雄厚的經濟基礎和造船實力。

漕船是一種底平艙淺的運輸船舶，始於秦代，終於清代，歷時數千年。明代以前的漕船種類非常繁雜，不論是內河漕船，還是揚帆於海的漕船，只要是底平艙淺、吃水不深、裝載量多、運輸快捷的船隻，都可作為漕船運糧。

海船一般用來作遠洋航行，運載貨物，唐代末期，巨大的中國海船已經蜚聲國外。據記載，由於大型的中國海船吃水深，波斯灣航道比較淺，所以中國海船必須停泊在印度南端，然後用較小的船隻把貨物運往阿拉伯一帶，再裝上從阿拉伯一帶運來的貨物返回。由於中國海船船體高大，安全性高，再加上非常舒適，很多阿拉伯商人來中國時都願意搭乘中國船。

中國古代的船舶設計，一般來說是沿襲師傳徒或父傳子的傳統，一代一代地言傳身教。造船工匠在造船的實踐中積累了豐富的經驗，對各種船隻的結構、尺寸比例、特徵和性能等瞭若指掌，有些工匠還繪畫粗略的圖樣和簡單的符號。