中國的學校產生之始，就是為統治階層培養治國的人才。夏、商、周三代又是以世襲制的貴族政治為主，因而學生多是貴族官員子弟，稱為「國子」。民間子弟幾乎不可能進入統治階層，也就沒有必要接受學校教育，只是在生產和生活中獲得相應的教育而已。在這種形勢下，學校必然只能由官方舉辦，各類教師也都具有官員身份，官師合一，這就是「學在官府」，它奠定了中國由政府主導辦學的教育傳統。

誰最早辦私學已無法考證，但是孔子無疑是早期最卓越的私學創辦者。到了戰國時期，思想界出現了百家爭鳴的學術繁榮局面。各家學派都要通過辦學來擴大影響力，於是私學高度繁盛。私學的興起結束了學在官府的壟斷，使教育擴大到民間，形成了一批專業化的教師，在教學內容、教學方法，特別是教育觀念方面都有風格各異的創新，開闢了中國教育發展的新局面。古代的普通教育是儒學教育，但也有各類專門學校出現，如醫學、數學、天文學 、法律學、文藝學、軍事學等。

春秋戰國時期，周天子無力控制天下，列國紛爭，各諸侯國內部也鬥爭激烈。舊的統治秩序、等級制度和思想觀念受到嚴重的挑戰和衝擊，官學原有的教育內容在很大程度上失去了價值。加上各國統治者忙於爭鬥，無心顧及教育，於是官學普遍衰廢。在激烈競爭的局勢下，統治者需要放手任用賢才，就要破除舊的貴族門第限制，這就給民間人士參政提供了機會。春秋時期的百里奚，由奴隸變成秦國高官；戰國時期的蘇秦，由窮困潦倒到身佩六國相印。當然，他們必須學有所長才能被重用，因而使民間人士具有學習的積極性，私學就是在這樣的形勢下興起。

自漢代建立了以官學和學而優則仕為主導的學校體制後，歷代王朝都興辦官學，即使是佔據一方的地方割據政權，還有少數民族建立的政權都不例外。有的朝代建立時雖然推翻了前朝的政權，但仍繼承了前朝的學校，官學並未中斷，明朝取代元朝、清朝取代明朝時都是如此。宋代以後朝廷着力在各地設學，到明清時，地方各級行政單位普遍立學，甚至在邊遠民族聚居的地方也建起了官學，形成了覆蓋全國的學校布局。

私學則是民間經常性的教學場所，即使是在戰亂和改朝換代之際也不曾絕跡，在培養人才，尤其是兒童啟蒙教育方面發揮了主要作用。後來又出現了民間辦學官方支持的書院，是以藏書為基礎，將學術研究和教學傳授結合在一起的機構。

古代官學在教官編制、學校設施和管理等方面都有一定規制。教師是具有品級的官員，例如漢代太學的博士與中等縣的縣令級別相當，此後歷代略有改動，清代國子監博士是從七品，仍是知縣級別。地方官學自宋代以後才有專職教官，只有最低的官品甚至不入流。清代有所提升，府學教授為正七品，州學學正、縣學教諭為正八品，各學副教官稱為訓導，為從八品。