從漢代設立太學以後，歷代王朝都設立最高學府，稱為國學。西晉時除太學外，又建立了專門招收官員子弟的國子學。南北朝時，南朝宋、齊的國學，一度包括儒學、玄學、文學和史學四個館，已有綜合大學的特徵。從隋朝起，國子監成為中央教育行政機構，它本身又是最高學府。唐朝的國子監統轄國子學、太學、四門學、書學、律學、算學等六學，其中前三學都是儒學，分別招收不同品級的官員子弟，四門學招收部分平民子弟，還接受周邊各國的留學生。地方官學的優秀學生可以保送到四門學讀書。後三學是專門學校，分別學習書法、法律和數學。北宋時先後三次興學，國學的體制大為健全。明清時，國子監的學生有四種來源：一是由地方各級學校推薦學生（清代統稱貢生），二是官員或功臣子弟，三是舉人會試落榜者，四是交納錢財獲得監生身份者。國子監生有做官的資格，但仕途不如科舉優越。

自文翁興學得到漢武帝提倡以後，地方辦學就興盛起來。東漢時，嶺南直至交趾（今越南北部）都有辦學的記載。地方官學主要目的是作為一方文教中心來推廣教化。地方官學既要通過培養賢才在本地起模範作用，又要通過演習禮樂等移風易俗的社會教育活動，來改善本地社會風尚。早期的地方官學興辦完全取決於地方長官的意願，自行辦理，所以並不普遍，興廢無常，良莠不一。宋代起，由朝廷向各地官學委派教官，教官擁有學校管理的自主權，地方當局不得隨意干預學校事務。元代以後，所有的地方各級行政單位都建立了學校。明清時期，只有地方官學的生員（俗稱「秀才」）才有參加科舉鄉試的資格。未入學的讀書人，無論學業高低、年齡大小，都稱童生，童生的入學考試成為科舉之途的第一次拼搏。

書院本是藏書之處，唐代集賢殿書院就是宮廷圖書館。發明印刷術，使過去必須逐字抄寫的書籍可以整版地印出來，為藏書提供了便利的條件，民間學者也將自己的藏書和讀書場所稱為書院。後來，書院就逐漸發展成以藏書為基礎、教學和學術研究活動的機構。這種書院出現在唐末五代時期。宋代統治者鼓勵民間興辦書院，皇帝賜匾額，朝廷賜圖書，地方當局給予房地產資助，使書院興盛起來。著名學者舉辦的書院，往往是一方學術中心，吸引各地讀書人前來求學，在教學、學術研究以及學校管理方面有許多建樹和創意，在古代學校中具有一枝獨秀的地位。

漢代獨尊儒學，儒家經典就成為教育的主體內容。在儒學之外，古代還舉辦過多種專業學校。公元二世紀末，漢靈帝喜好辭藻文采，辦起了世界上第一所學習辭賦、小說、繪畫、書法的文藝專科學校──鴻都門學。出自皇帝個人喜好而舉辦的專業學校還有唐玄宗辦的《老子》學和宋徽宗辦的畫學。天文學因為是確定曆法所需，而且古人有觀天象測人事的傳統，所以歷代都很重視，由專門機構司天監培養天文生。醫學也是歷代都有的，唐代在府、州兩級均設立醫學，還舉辦過獸醫學。明清兩代還辦過培養翻譯人才的外語學校，包括周邊國家的各個語種。此類專業學校，都是培養在政府中專門機構供職的專業官吏，而不是可以自由擇業的專業技術人員。數學、法律、軍事等領域的專門人才培養，有的朝代設有專業學校，有的朝代則將其列入普通學校的學習內容。中國是世界上最早開設專業學校的國家，門類也最多。

在多民族聚居的中華大地上，曾出現過一些少數民族政權。早期的少數民族因文化發展程度低，尚無自己的學校教育，十六國時期的後秦以及後來的北魏，曾仿效中原漢族辦學。到女真族建立金朝，首次為本民族子弟辦起女真國子學和地方女真學，但學習內容仍是中原的儒學。蒙古族建立的元朝疆域空前遼闊，在維持傳統的中央和地方官學的同時，舉辦了蒙古國子學和地方上的蒙古字學，傳授蒙古語言文字，還舉辦了傳授西域波斯語言文字的回回國子學。清朝的江山是以滿族為主體，聯合蒙古族和關外漢族（稱為漢軍）組成的八旗勁旅打下來的，建國後舉辦了各類八旗子弟學校，滿語（或蒙古語）和騎射是八旗學校共同的基礎課程，為的是維護本民族文化傳統和尚武精神。

中國古代除了宮廷貴族學校和個別朝代（例如北宋）在地方辦過小學外，官方一般不舉辦初等教育。有條件的家庭由家長為子弟作啟蒙教育，而沒有條件接受家庭教育的兒童，則可以到從事啟蒙教育的私學（統稱蒙學）學習。例如東漢著名思想家王充，就是從「書館」開始他的學習生涯。古代的蒙學，有家族或宗族舉辦的族學，有鄉里舉辦的鄉學，也有教師自己開設的私塾。低層次的蒙學，教會兒童認識日常用字即可；高層次的蒙學，則要完成基本學業，達到可以報考官學當秀才的程度，由此開始科舉之途。蒙學的教學注重多認、多看和多寫，詩文都要求熟讀到背誦流暢的程度。蒙學教師對學生要求嚴厲，盛行體罰。雖然有呆板苛刻的弊病，但在基本功和行為常規訓練上有可取之處。

鴉片戰爭後，中國無力抵禦西方國家的步步入侵，清政府為了應付日益加劇的社會危機，不得不仿效西方制度進行某些改革，教育改革是其中的重點。1862年，第一所官辦的近代新式學堂京師同文館建立，此後各類專業技術學校和普通學校陸續在各地辦起來。1901年，清政府下令將所有的書院全部改為學堂，其中設在省城的大書院改為高等學堂，設在府城的大書院改為中學堂，其餘書院以及八旗學校都改為小學堂。1904年，清政府頒佈學制，普通教育系統有大學堂、高等學堂、中學堂、高等小學堂、初等小學堂和蒙養院，與普通教育平行設立的有各級實業學堂和師範學堂，從而建立起現代學校體系。1905年，清政府廢除科舉制度，官學也隨之消失。此後各類私塾經過政府改良，轉變為小學。綿延兩千多年的古代學校教育就此退出歷史舞台。