古人稱具有磁性的天然磁鐵為磁石，也即四氧化三鐵。戰國時期成書的《管子‧地數》中已有「慈石」一詞，表明戰國時期人們已發現了磁石吸鐵的現象，將磁石寫成「慈石」。漢代初年（公元前二世紀)成書的《呂氏春秋》說：「慈石召鐵，或引之也。」漢代高誘等學者在該書註解中說：「以有慈石，故能引其子」，「取鐵，如母之招子焉。」從創立「慈石」一詞起，人們就知道磁鐵的吸引性質，並將它的吸鐵特性人格化了。磁石虛連鋼針，實質上就是磁感應現象的發現。當這些被感應磁化的鋼針，置於光滑板面上或懸吊於空中，就能指示方向而成為指南針。至少從唐代蘇恭時起，距離指南針的發明已為期不遠了。

磁鐵除了吸引鐵之外，磁鐵之間也彼此相互作用，即同極相斥和異極相吸。古代中國人早就發現條形磁鐵的兩端極性不同。利用這一特性，漢代人就開始製造磁性棋子，在下棋娛樂中觀察棋子的彼此吸引與排斥現象。古代的下棋娛樂之中，有一種「鬥棋」，以天然磁石作為棋子。人們從鬥棋娛樂中不難發現磁吸引與磁排斥的現象。漢代膠東方士欒大曾向漢武帝獻鬥棋術，並謂「棋自相觸擊」。漢代淮南王劉安在其組織編纂的《淮南萬畢術》中寫下了鬥棋中有「慈石提棋」和「慈石拒棋」的現象。前者是磁吸引，後者是磁排斥。可見古代中國人最先發現了磁排斥現象，也即是同性相斥的現象。

古人雖然發現了磁體有吸引和排斥兩種現象，但是對磁體有南、北兩極的認識卻比較晚。直到宋代，科學家沈括（1031—1095年）才記述了磁極性。沈括雖發現了磁極性現象，但不明白其中道理，更不知道地球本身是一個大磁體，具有南北兩種磁極性。磁鍼之所以指南或指北，是因為它與地磁的兩極彼此產生作用的結果。

北宋初，天文學家和堪輿家楊維德於慶曆元年（1041年）撰寫相墓書《塋原總錄》，記述了指南針在羅盤上「取丙子、壬午之間」，這是「約而取於大概」的地理南北方向。與楊維德幾乎同時或更早的堪輿師王伋（約公元988—1058年）也曾以詩歌形式記下了地磁偏角。古代中國人在醫療、建築、戰爭與陶瓷製造等多方面廣泛地應用磁石，表明他們對磁鐵特性了解充分。

從戰國時期開始，磁石已成為中藥成分之一。漢初成書的《神農本草經》最早記述了磁石的藥性。古人製造陶瓷時也應用了磁石，在燒製白瓷的過程中，瓷土、釉料和色料都不得含有氧化鐵、氧化鈷等物質，否則，瓷器會出現紅色或黑色斑點。陶瓷工人一般會使用磁鐵在釉缸中來迴旋轉，以吸引並除去釉中含鐵雜質，從而提高瓷器的潔白度與透明度。古代煉丹家也常以磁石作為化學藥物之一。