中国古代体育源远流长，其初始可以上溯到史前的蛮荒时代。远古先民在采集和渔猎的生活中，逐渐创造出石球、石镞、舟楫等工具；又因为生存需要，投掷、射箭、游泳、奔跑、跳跃、攀登等便成为他们日常生活中最普遍的肢体活动。人类体育运动的雏形便由此孕育出来。

早在石器时代，人类对自身的力量开始有朦胧的意识，并希望能发展和培育这些力量，从而促使诞生了舞蹈、游戏和竞技活动，使身体练习成为具有多种意义的重要社会活动，促进了古代体育的萌芽。

到了公元前二十一世纪（相当于夏代），中国进入阶级社会，此后历代以来战争频繁，加上产生文字和学校、形成宗法制度等社会文化变革，进一步推动了体育发展。原始社会中那种混沌形态的“体育”，开始类分为军队的身体和技能训练、学校教育、民间游戏，以及卫生保健等不同形式。经过漫长演进，中国古代体育愈益丰富多彩。

中国古代体育反映出东方人体发展的实践和理论。在古代中国人眼中，它们不是一个统一的整体，也并无“体育”一词，而是使用“养生”、“导引”、“武术”等名词。只是当“体育”一词从西方（经日本）传入中国之后，我们才把这些有关身体的修炼和养护活动统称为“体育”。

十九世纪鸦片战争后，在洋务运动的推行中，近代西方体育开始传入中国。在洋务派创办的早期新式军事学堂里，开设有包含击剑、刺棍、拳击、足球、跳高、跳远、单双杠等西方近代体育内容的课程，一般叫体操科，或游戏科。当时普遍采用“兵操”、“体操”这样的术语来表示体育。

直到1904年，当时的基督教天津青年会干事饶柏森在京津各校宣讲“西洋体育”时，才开始出现“体育”一词。1905年，浙江绍兴成立了“大通体育会”。1906年又成立了四川体育专科学校等，“体育”这一术语才开始较多地使用。但这一时期“体育”和“体操”二者混用。直至1923年，在北洋政府公布的《中小学课程纲要草案》这一官方文件中，才正式把“体操科”改为“体育课”。之后，“体育”一词逐渐取代了“体操”而被广泛使用。