传说中上古时期，仓颉创造汉字。文字的发明，使人类积累的经验、技能、思想、资讯有了长期、稳定可靠的保存方法，传播的范围更广，时效更长，更加准确规范。教育的方式也从口授、观察和形体动作摹仿，上升到以阅读、书写为主，这正是学校教育发展的必要条件。人类从原始社会开始，就有传授社会生活和生产劳动经验技能的教育活动，但都是在劳动生产过程中进行。而学校的出现则需要一定程度的文明发展，例如有能够脱离生产的教师和学生，以及适于集中教学的内容。原始氏族社会末期，物质生产能力提高，只需一部分人从事生产，就可以确保养活更多的人，例如掌握生产知识和技能的老人。古文献记载，氏族养老的场所称为“庠”、“序”，一般位于“米廪”，即粮仓附近。不过老人可不是光吃闲饭的，他们有教导后代、传授生产经验和社会行为规范的职责。“庠”、“序”后来成为古代地方学校的代称，可见中国学校教育最初产生于“养老”。除此之外，氏族社会的发展也需要从事各种管理和服务工作的人员，教育就成为培养所需人才的途径。国家形成以后，贵族、官员的培养成为学校教育的首要任务。

成均，相传为远古尧舜时的学校。原始氏族公社后期，氏族的规模逐渐扩大，并组成部落联盟。社会生活也趋向复杂化，除家庭生活、生产劳动和与外敌作战的军事行动外，还有各种祭祀、庆典等集体的礼仪活动。氏族部落成员间已开始有等级地位的区分，产生了各种社会行为规范的要求。为了保持和强化氏族部落的凝聚力和团队精神，对公众的教育和宣传是必不可少的。考古发现的原始氏族公社后期遗址中，往往有一大片空地，有点像现在的广场，显然是氏族部落成员集会的地方。遇上举行各种典礼仪式，召开会议，宣讲告示、规定、要求，以及采取某项行动前的动员、誓师等，都在这里举行集会，可见其具有显著的教育作用。国家产生之后，“成均之教”就成为社会教育的总称，成均也成为天子之学的中心场所。

中国的学校产生之始，就是为统治阶层培养治国的人才。夏、商、周三代又是以世袭制的贵族政治为主，因而学生多是贵族官员子弟，称为“国子”。民间子弟几乎不可能进入统治阶层，也就没有必要接受学校教育，只是在生产和生活中获得相应的教育而已。在这种形势下，学校必然只能由官方举办，各类教师也具有官员身份，官师合一，这就是“学在官府”，它奠定了中国由政府主导办学的教育传统。西周时天子和各诸侯国君举办的学校叫国学，地方政府举办的学校叫乡学。从层次上又分为大学和小学：小学设立在宫廷“南之左”，是为了方便小孩子就近入学；“大学在郊”，则是给学生创造清静优雅的环境，使他们避免干扰，专心治学。中国三千年前的教育当局就能有如此科学的建校思路，真是难能可贵！

春秋战国时期，周天子无力控制天下，列国纷争，各诸侯国内部也斗争激烈。旧的统治秩序、等级制度和思想观念受到严重的挑战和冲击，官学原有的教育内容在很大程度上失去了价值。加上各国统治者忙于争斗，无心顾及教育，于是官学普遍衰废。在激烈竞争的局势下，统治者需要放手任用贤才，就要破除旧的贵族门第限制，这就给民间人士参政提供了机会。春秋时期的百里奚，由奴隶变成秦国高官；战国时期的苏秦，由穷困潦倒到身佩六国相印。当然，他们必须学有所长才能被重用，因而使民间人士积极学习，私学就是在这样的形势下兴起。谁最早办私学，已无法考证，但是孔子无疑是早期最卓越的私学创办者。到了战国时期，思想界出现了百家争鸣的学术繁荣局面。各家学派都要通过办学来扩大影响力，于是私学高度繁盛。私学的兴起结束了学在官府的垄断，使教育扩大到民间，形成了一批专业的教师，在教学内容、教学方法，特别是教育观念方面都有风格各异的创新，开辟了中国教育发展的新局面。

战国时，齐国在国都临淄的稷门之下建立了学府园区，前后历时达一个半世纪之久。建学宫的主要目的是“养士”，即接纳各方有专长的学者士人，由国家出资供养，让他们发挥智囊作用。收容的士人一般不担任具体官职，但有义务接受咨询和参与国事讨论，这种身份有利于畅所欲言。学者平时主要从事自己的学术研究，也有随从弟子门生，开展教学活动。战国时各家名流，如儒家的孟子、荀子，道家的宋钘、尹文、环渊、慎到，阴阳家的邹衍，以及名士淳于髡、鲁仲连等，都曾在稷下学宫治学。可见，稷下学宫虽由官方主持，但又是各家私学的集汇之处，这是很有特色的办学形式。各家学派集中于此，促进学术交流，有利于百家争鸣，也为学生提供了广泛学习、兼采各家所长的机会。