线性方程组在古代称为方程，其解法称为方程术。首见于《九章算术》。“方”的本义是并，将两条船并起来，船头拴在一起，谓之方；“程”是求其标准。刘徽说：“群物总杂，各列有数，总言其实。令每行为率，二物者再程，三物者三程，皆如物数程之。并列为行，故谓之方程。”这是方程的严格定义。方程按分离系数法和位置值制表示，每行自上而下，各行自右向左排列。《九章算术》采用直除法即以一行首项系数乘另一行再对减消元。刘徽还创造互乘相消法和方程新术。后者是通过消元求出诸物的率，用衰分术或今有术求解。由具体问题列方程要应用损益术。《九章算术》说：“损之曰益，益之曰损。”这是说：在等式的一端减，相当于在另一端加；在一端加，相当于在另一端减。损益的对象既有常数项，也有未知数，还有合并同类项。

正负术是《九章算术》方程章提出的正负数加减法则。一则方程术中用直除法消元时会出现以大减小的情形，再则通过损益术列方程，这都会产生负数。“正负术曰：同名相除，异名相益，正无入负之，负无入正之。其异名相除，同名相益，正无入正之，负无入负之。”前四句是减法法则：若二数同号，则；。若二数异号，则。若沒有与之对减的数，则，。后四句是加法法则：若二数异号，则；；若数异号，则，；若沒有与之对加的数，则。在《九章算术》中，正负术只用于方程术。现存资料中讨论负系数开方问题最先出现在北宋刘益的《议古根源》中。

将天元术与方程术结合起来，人们创造了二元术、三元术与四元术，即二元、三元与四元高次方程组的解法。四元术以天、地、人、物为未知数，常数项居中，旁边记一“太”字，四元依次居于常数项的下、左、右、上，其幂次由它们与“太”字的距离决定，距离愈远幂次愈高，相邻两元幂次之积记入相应行列的交叉处，不相邻之元的幂次记入夹缝中。四元术的核心是四元消法，即将四元4式消成三元3式，再消成二元2式，最后消成一元高次方程，用增乘开方法求解。朱世杰的消元方法巧妙但文字简括，具体方法从清中叶以来即有各种不同的看法。在欧洲，1779年法国数学家别朱才研究了多元高次方程组的消法。