相传夏代时，中国就有天文台，那时候称“清台”；商代叫做“神台”；周代叫“灵台”。中国的帝王受命于天来统治天下，只有天子所在的都城才有天文台。

现存最早的天文台遗址在今天的河南省登封縣内，是在元朝初期建造。这座灵台在当时属太史令管辖，设有一个灵台丞主持全台的工作。全台共有42名工作人员，其中14人负责观星，两人负责观测太阳，其他人则分别负责对风、气、晷影和钟律作观测和测量。这座天文台从管理和组织上都已经相当完备，对后世官方天文台的建立模式产生了很大的影响。汉代以后，历代均有天文台，其规模和人员编制更为宏大。

元朝统治中国的历史虽然很短，但是中国古代天文学的发展却在这一时期达到了高峰，这与它拥有历史上最为先进的天文台有很大关系。至元十六年（1279年），忽必烈在大都建立了一座规模宏大的天文台，并把国家的天文机构——太史院设在这里。整座天文台长500尺，宽375尺，中心建筑是一个高七丈，分三层的灵台。台下层的房屋是太史院和天文机构的办公用房，可容纳七十多人在此办公；中层房屋分别用来安放水运仪、漏壶，张挂天文图和收藏天文历法图书；上层安放由郭守敬设计的简仪、仰仪和正方案。另外，灵台的右边是四丈高的高表，左边的高台上是玲珑仪，东西两角为印历工作局。这座天文台建筑科学、设备完善，可以说是当时世界上最先进的天文台之一。元初，郭守敬等人做了一次全国性的大地测量。为此，他们在河南省登封县建造了一座观星台。这座台高四十尺，台身就是一个高表，台下从南往北延伸的就是一百二十尺的水平石圭。登封观象台是中国现存最早的天文台

明太祖朱元璋建都南京后，将以前元大都的一些天文学家征召到南京钦天监，大都的简仪和浑仪也被搬到了南京。明成祖迁都北京，并在北京组建了新的钦天监。开始时，钦天监不但没有天文台，甚至连一些简单的观测仪器都没有，天文学家只有在齐化门的城墙上用眼睛直接观测。明英宗正统二年（1437年），钦天监派人到南京复制了浑仪、简仪等模型，并于正统七年（1442年）建造了简仪、浑仪等仪器，陈列在新建的贡院南观象台上。这座观象台遂成了明代天文观测的中心。清朝取代明朝后，明观象台又成为清朝的观测中心，只是陈列在台上的仪器发生了很大的变化，原有的浑仪、简仪、圭表因为年久失修，观测起来已不太精确。于是，康熙皇帝命令耶稣会士南怀仁建造了六架仿欧洲仪器替代了浑仪、简仪。这标志着中国古代传统的测天仪器作为官方主要观测工具时代的结束。