相傳夏代時，中國就有天文台，那時候稱「清台」；商代叫做「神台」；周代叫「靈台」。中國的帝王受命於天來統治天下，只有天子所在的都城才有天文台。

現存最早的天文台遺址在今天的河南省登封縣內，是在元朝初期建造。這座靈台在當時屬太史令管轄，設有一個靈台丞主持全台的工作。全台共有42名工作人員，其中14人負責觀星，兩人負責觀測太陽，其他人則分別負責對風、氣、晷影和鐘律作觀測和測量。這座天文台從管理和組織上都已經相當完備，對後世官方天文台的建立模式產生了很大的影響。漢代以後，歷代均有天文台，其規模和人員編制更為宏大。

元朝統治中國的歷史雖然很短，但是中國古代天文學的發展卻在這一時期達到了高峰，這與它擁有歷史上最為先進的天文台有很大關係。至元十六年（1279年），忽必烈在大都建立了一座規模宏大的天文台，並把國家的天文機構——太史院設在這裡。整座天文台長500尺，寬375尺，中心建築是一個高七丈，分三層的靈台。台下層的房屋是太史院和天文機構的辦公用房，可容納七十多人在此辦公；中層房屋分別用來安放水運儀、漏壺，張掛天文圖和收藏天文曆法圖書；上層安放由郭守敬設計的簡儀、仰儀和正方案。另外，靈台的右邊是四丈高的高表，左邊的高台上是玲瓏儀，東西兩角為印曆工作局。這座天文台建築科學、設備完善，可以說是當時世界上最先進的天文台之一。元初，郭守敬等人做了一次全國性的大地測量。為此，他們在河南省登封縣建造了一座觀星台。這座台高四十尺，台身就是一個高表，台下從南往北延伸的就是一百二十尺的水平石圭。登封觀象台是中國現存最早的天文台。

明太祖朱元璋建都南京後，將以前元大都的一些天文學家徵召到南京欽天監，大都的簡儀和渾儀也被搬到了南京。明成祖遷都北京，並在北京組建了新的欽天監。開始時，欽天監不但沒有天文台，甚至連一些簡單的觀測儀器都沒有，天文學家只有在齊化門的城牆上用眼睛直接觀測。明英宗正統二年（1437年），欽天監派人到南京複製了渾儀、簡儀等模型，並於正統七年（1442年）建造了簡儀、渾儀等儀器，陳列在新建的貢院南觀象台上。這座觀象台遂成了明代天文觀測的中心。清朝取代明朝後，明觀象台又成為清朝的觀測中心，只是陳列在台上的儀器發生了很大的變化，原有的渾儀、簡儀、圭表因為年久失修，觀測起來已不太精確。於是，康熙皇帝命令耶穌會士南懷仁建造了六架仿歐洲儀器替代了渾儀、簡儀。這標誌着中國古代傳統的測天儀器作為官方主要觀測工具時代的結束。