人們對數的認識經歷了漫長過程。雲南有的少數民族在五十年代還用結繩、書契記數。後來，人們創造了記數的文字。《世本》說：「隸首作數」。相傳隸首是黃帝的臣子，是時大約在新石器時代晚期，產生抽象的數的概念、記數文字。

夏、商、西周三代時期，數字元號逐漸規範。公元前十四至十一世紀的殷墟甲骨文卜辭中有許多數字。其中有13個記數單字，它們是：

甲骨文用9個數字與4個位置值符號，可以表示大到成萬的任何自然數。甲骨文數字是十進位，已有位置值制萌芽。

直至宋、元，中國人的主要計算工具是算籌。算籌又稱為算、籌、策、運算元等，通常用竹，也有用木、骨、石製成。《孫子算經》最先表述了算籌記數制度：「凡算之法，先識其位。一縱十橫，百立千僵，千十相望，萬百相當。」《夏侯陽算經》又補充道：「滿六以上，五在上方，六不積算，五不單張。」這就是說，算籌數字有縱橫兩式。個、百、萬……用縱式，十、千、十萬……用橫式。因此，用18個符號，及用空位表示0，可以表示任何一個自然數。算籌記數完全採用十進位置值制，比古巴比倫的60進位置值制方便，比古希臘、羅馬的十進非位置值制先進，是當時世界上最簡便的計算工具和最先進的記數制度。

自元、明以後，國人的主要計算工具是珠算盤，延及朝鮮、日本和東南亞。至今珠算仍在人們生產、生活中發揮着作用。珠算之名最先見之於東漢徐岳的《數術記遺》。到南宋，珠算產生的演算法條件已經成熟。南宋劉勝年繪的《茗園賭市圖》、元代王振鵬繪的《乾坤一擔圖》（1310年）都有珠算盤，算珠、檔都清晰可見。珠算盤產生後，與算籌並用了很長時間。明代程大位著的《演算法統宗》（1592年）對珠算的發展和普及發揮了極大作用。

為了計算更加準確，於是產生了分數。先秦典籍和《算數書》、《周髀算經》、《九章算術》中大量使用了分數。中國是世界上使用一般分數最早的國家，也是最先使用小數的國家。公元263年劉徽在開方不盡時用十進小數（微數）表示無理根的近似值，開十進分數之先河。劉徽將分子與分母看成率關係，與現代數學中關於分數的定義完全一致。分數的表示採用分子在上，分母在下，不過中間沒有現在的橫線。古代用厘、毫、絲、秒、忽表示分以下的奇零部分。楊輝、朱世傑還先後總結了民間的斤兩化零歌，即將1至15兩化成以斤為單位的十進小數的歌訣。