最早的火箭是中国人发明的。中国人是富有想象力和探索精神的民族，古时很多关于飞离地球、奔向太空的神话传说，都激励人们挑战自然。有了火箭之后，中国人还作了火箭载人飞行的首次尝试，又研制了二级火箭，并提出回收火箭的构想，古时的中国人在这些方面都走在当时世界的前列。

中国古书中“火箭”一词常指不同武器，这里所说的火箭，指一种飞行装置，以固体黑火药为燃料和助燃剂，借燃烧室迅速喷出高压气体所产生反作用力而推动的飞行装置，并可在大气或没有空气的情况下运作。中国人发明的火箭与近现代火箭运作原理相同，是近现代火箭的祖先。

火箭之所以产生于中国，是因为中国人最早发明了火药，并以火药制成各种火攻武器，在此基础上摸索出火箭的原理，并且逐步予以改良。中国人在十世纪制成低硝膏状火药，将火药包绑在箭杆上，然后用弓或弹射器射出，从而令敌方的阵营着火，这是原始的火箭。到了十二世纪初，中国人又制成高硝固体火药，除爆炸外，它还能作为发射剂，火箭的效能借此改良。另一方面，药线（引信）的发明也提供了既安全又快速的引燃手段。

中国古代的火箭由火药筒、箭杆和药线三部分构成。其发射原理是在燃烧室内将能源以热能形式释放出来，再迅速将其转变成动能，由直接反作用力形成推力，火箭随即升空。中国古代火箭与第二次世界大战时使用的近程无制导系统的固体火箭比较，在结构原理上一脉相承。

中国古代火箭特点是发射和飞行速度快，能造成化学和机械杀伤力，机动性大，可用于水陆攻守战，还可多枚连在一起，集合成束地发射，以增加威力，更可制作成多级火箭，延长射程。

早期的火箭主要应用于喜庆娱乐和军事两方面。十世纪时，中国人发明了最原始的火箭，即是以弓射出的火药纵火箭，是军队中的特别武器。十二世纪时，南宋都城临安（今杭州）已有地老鼠、流星之类的焰火，为节庆活动助兴，这是早期火箭的另一大用途。时至今天，大型庆典中仍多有燃放烟花的活动。十二世纪中叶，南宋在采石之战中运用“霹雳炮”对付金兵，这种武器就是改良过的火箭。及至十三世纪上半叶，火箭技术大量运用于军事方面，并开始出现以火箭原理制造的各种新式武器。

金兵于1161年先后在密州及采石两次战役中受火箭重创后，遂决心掌握这种克敌技术，后来更用来对付蒙古兵。1232年4月，蒙古将领速不台领军围攻金都汴京，金军发射了名为“飞火枪”的大火箭和名为“震天雷”的铁壳炸弹抗敌，双方激战16昼夜，金兵终获大胜。次年5月金军乘小船以特大火箭夜袭蒙古兵营，再次奏效，并歼灭蒙古军3,500人。蒙古不久后也掌握了火箭的运用，并用于阿拉伯地区和欧洲战场，火箭技术不但普及于全中国并得到进一步发展，还传播到其他国家。