古人称具有磁性的天然磁铁为磁石，也即四氧化三铁。战国时期成书的《管子‧地数》中已有“慈石”一词，表明战国时期人们已发现了磁石吸铁的现象，将磁石写成“慈石”。汉代初年（公元前二世纪)成书的《吕氏春秋》说：“慈石召铁，或引之也。”汉代高诱等学者在该书批注中说：“以有慈石，故能引其子”， “取铁，如母之招子焉。”从创立“慈石”一词起，人们就知道磁铁的吸引性质，并将它的吸铁特性人格化了。磁石虚连钢针，实质上就是磁感应现象的发现。当这些被感应磁化的钢针，置于光滑板面上或悬吊于空中，就能指示方向而成为指南针。至少从唐代苏恭时起，距离指南针的发明已为期不远了。

磁铁除了吸引铁之外，磁铁之间也彼此相互作用，即同极相斥和异极相吸。古代中国人早就发现条形磁铁的两端极性不同。利用这一特性，汉代人就开始制造磁性棋子，在下棋娱乐中观察棋子的彼此吸引与排斥现象。古代的下棋娱乐之中，有一种“斗棋”，以天然磁石作为棋子。人们从斗棋娱乐中不难发现磁吸引与磁排斥的现象。汉代胶东方士栾大曾向汉武帝献斗棋术，并谓“棋自相触击”。汉代淮南王刘安在其组织编纂的《淮南万毕术》中写下了斗棋中有“慈石提棋”和“慈石拒棋”的现象。前者是磁吸引，后者是磁排斥。可见古代中国人最先发现了磁排斥现象，也即是同性相斥的现象。

古人虽然发现了磁体有吸引和排斥两种现象，但是对磁体有南、北两极的认识却比较晚。直到宋代，科学家沈括（1031—1095年）才记述了磁极性。沈括虽发现了磁极性现象，但不明白其中道理，更不知道地球本身是一个大磁体，具有南北两种磁极性。磁针之所以指南或指北，是因为它与地磁的两极彼此产生作用的结果。

北宋初，天文学家和堪舆家杨维德于庆历元年（1041年）撰写相墓书《茔原总录》，记述了指南针在罗盘上“取丙子、壬午之间”，这是“约而取于大概”的地理南北方向。与杨维德几乎同时或更早的堪舆师王伋（约公元988—1058年）也曾以诗歌形式记下了地磁偏角。古代中国人在医疗、建筑、战争与陶瓷制造等多方面广泛地应用磁石，表明他们对磁铁特性了解充分。

从战国时期开始，磁石已成为中药成分之一。汉初成书的《神农本草经》最早记述了磁石的药性。古人制造陶瓷时也应用了磁石，在烧制白瓷的过程中，瓷土、釉料和色料都不得含有氧化铁、氧化钴等物质，否则，瓷器会出现红色或黑色斑点。陶瓷工人一般会使用磁铁在釉缸中来回旋转，以吸引并除去釉中含铁杂质，从而提高瓷器的洁白度与透明度。古代炼丹家也常以磁石作为化学药物之一。