1949年新中国成立前夕，国内有各类大学66所，其中国立39所，私立（含教会大学）27所。新中国的大学主要由三部分构成：一是接管，接收旧中国的公立、私立大学及受外国津贴的教会大学，将其改组为政府兴办的大学，校名概不加“国立”、“省立”、“市立”及“公立”字样，如南京大学、华东师范大学等；二是在革命根据地解放区大学的基础上，创办正规化的新型大学，如中国人民大学、吉林大学等；三是适应社会经济建设、文化发展需要，创办新的大学，如自五十年代后期陆续组建的辽宁大学、河北大学等省属大学。

新中国建立后不久，为适应大规模工业化经济建设的需要，学习前苏联的高等教育模式，大规模调整高等学校的院系，重新构建大学组织。其重点是发展专门学院，首先是工业学院，整顿和加强综合大学。1952年之前，实行小规模、特定范围的院校合并。自1952年下半年至1953年，院系调整在全国范围内实施。1955年以后，调整一部分高校院系的地域布局。

经过院系大调整，减少了综合性大学，增加单科的专门学院。1953年末，全国共有高等学校182所。其中有综合大学14所，工业院校38所（包括5所工科大学），师范院校31所（包括3所师范大学），农林院校、医药院校各29所（包括北京医科大学、中国医科大学、哈尔滨医科大学）。

调整后的中国院校数量虽有所减少，但学校规模扩大，在校生人数增加，学校布局也比较合理，提高了培养专业人才的效率。但是，这种院系调整过分强调单科院校，削弱了综合大学，导致理、工、文科分家。有些颇具规模的综合大学，如山西大学、湖南大学、河南大学、广西大学、安徽大学被分解、撤销，后来虽陆续重建，但已造成难以弥补的损失。

1966至1976年的文革动乱，使中国大学遭受极大破坏。大学关闭，教师流失，人才断层。从1977年恢复高校招生考试，到确立改革开放政策，逐步恢复原有的大学，并陆续组建新的大学。

从八十年代中期开始，特别是跨入九十年代，为适应经济体制改革和高等教育发展的需要，一些单科或多科的高等院校纷纷升格为大学。在高等教育行政管理体制改革及新一轮高校院系调整中，国内兴起院校合并、改名之风。如：1992年，原北京师范学院、北京师范学院分院、北京联合大学外语师范学院与职业技术师范学院合并组成首都师范大学。1993年，原江西大学、江西工业大学合并组建南昌大学（2001年江西医学院并入）。1995年，原北京农业大学、北京农业工程大学合并为中国农业大学。

据统计，1990至2001年，全国经教育部批准合并组建的大学多达124次；各次参与合并的大学或学院、专科学校，少则两校，多则四五校，最多者有9校（如广州大学）。经过合并，大学的学科增多，办学规模亦随之扩大。