汉代古人已发现磁石虽然可以吸铁，但不能吸引铜和瓦石，而且还知道磁铁的排斥现象，并把磁铁排斥现象应用于休闲活动——斗棋。磁石也可以用于防盗和军事，如秦始皇阿房宫的大门就有磁石，用来防持带铁器的盗贼进入等。

虽然古人仍未知道地球本身是个大磁体，但是自秦汉时期起，磁学知识已应用于辨别方向，且发展了不同的人工磁性指向器。秦汉时期的磁性指向器叫“司南”，是用天然磁石加工而成，由青铜地盘与磁勺组成。磁勺形状像瓢勺，地盘内圆外方，刻有天干、地支和八卦表示的24个方位，中心圆面下凹，把磁勺放在中心圆上，静止时，勺柄总是指向南方。

北宋时，虽没有地磁场乃至地磁倾角的理性概念，然而在实践中人民却充分利用了地磁场和地磁倾角以磁化铁片，发明指南鱼。曾公亮记载了指南鱼制造方法：将薄铁，烧红遇高温则钢铁的磁畴排列会完全被打乱；遇冷（蘸水），即淬火急冷，磁畴排列又复形成。关键在于将铁片按地球子午线方向（地磁的南北方向）冷却，在地磁场的影响下，冷却后的铁片磁畴即顺着地磁方向排列，于是铁片产生磁性，则鱼头为北极，鱼尾为南极。

磁针是人工制造的指南工具，是一种带上磁性的钢针。它的出现在磁学和地磁学的发展史上也是一件大事。北宋沈括在《梦溪笔谈》中提到四种指南针安装方法：l）指甲法：将磁针搁在光滑的指甲上，可以旋转自如。2）丝悬法：以单根蚕丝系于针腰，悬吊磁针，相系处滴上少许蜡。3）水浮法：把磁针穿在数根灯草上，用灯草托浮磁针于水面。4）碗唇法：把磁针放在光滑的碗口边缘上。

罗盘是指南针与刻度盘相结合的产物，最早被堪舆家用于相墓、相宅、看风水。刻度盘在中国产生于先秦时期，但罗盘只有在磁针诞生之后才有可能问世。罗盘最初被称为“地螺”，盘面是圆形，上有方向刻度，当中又有旱罗盘和水罗盘之分。旱罗盘最迟产生于十二世纪下半叶，沈括和陈元靓所说的丝悬磁针和指南龟都是旱罗盘的始祖。在江西临川一座葬于1198年的宋墓里，出土了两个张仙人瓷俑，瓷俑右手持罗盘，从它竖持罗盘和罗盘的磁针中央有转动中心来看，这应该是旱罗盘，而安装磁针的方式可能是回旋枢轴。水罗盘就是将磁针或指南鱼放入水碗中，再在碗外缘加上刻度盘的指向器。元代时盛行“针碗”，一般在碗内底画出24个方位，注水并放入指南针即可以识别指针方向，主要应用于航海船舶。十二世纪初，中国人在航海中使用指南针或罗盘已相当普遍，而有关磁学及罗盘的知识是由阿拉伯人从中国传到欧洲。