線性方程組在古代稱為方程，其解法稱為方程術。首見於《九章算術》。「方」的本義是並，將兩條船並起來，船頭拴在一起，謂之方；「程」是求其標準。劉徽說：「群物總雜，各列有數，總言其實。令每行為率，二物者再程，三物者三程，皆如物數程之。並列為行，故謂之方程。」這是方程的嚴格定義。方程按分離係數法和位置值製表示，每行自上而下，各行自右向左排列。《九章算術》採用直除法即以一行首項係數乘另一行再對減消元。劉徽還創造互乘相消法和方程新術。後者是通過消元求出諸物的率，用衰分術或今有術求解。由具體問題列方程要應用損益術。《九章算術》說：「損之曰益，益之曰損。」這是說：在等式的一端減，相當於在另一端加；在一端加，相當於在另一端減。損益的對象既有常數項，也有未知數，還有合併同類項。

正負術是《九章算術》方程章提出的正負數加減法則。一則方程術中用直除法消元時會出現以大減小的情形，再則通過損益術列方程，這都會產生負數。「正負術曰：同名相除，異名相益，正無入負之，負無入正之。其異名相除，同名相益，正無入正之，負無入負之。」前四句是減法法則：若二數同號，則；。若二數異號，則。若沒有與之對減的數，則，。後四句是加法法則：若二數異號，則；；若二數同號，則，；若沒有與之對加的數，則。在《九章算術》中，正負術只用於方程術。現存資料中討論負係數開方問題最先出現在北宋劉益的《議古根源》中。

將天元術與方程術結合起來，人們創造了二元術、三元術與四元術，即二元、三元與四元高次方程組的解法。四元術以天、地、人、物為未知數，常數項居中，旁邊記一「太」字，四元依次居於常數項的下、左、右、上，其冪次由它們與「太」字的距離決定，距離愈遠冪次愈高，相鄰兩元冪次之積記入相應行列的交叉處，不相鄰之元的冪次記入夾縫中。四元術的核心是四元消法，即將四元4式消成三元3式，再消成二元2式，最後消成一元高次方程，用增乘開方法求解。朱世傑的消元方法巧妙但文字簡括，具體方法從清中葉以來即有各種不同的看法。在歐洲，1779年法國數學家別朱才研究了多元高次方程組的消法。