山西被譽為中國古建築寶庫之一，其中由完整的古城牆包圍着的平遙古城，就是現時中國唯一保存完整的明清縣城原型。平遙城曾有「龜城」之稱。南北門象徵烏龜的頭尾，上、下東門及上、下西門象徵烏龜的四足，據說這形狀是取烏龜「吉祥長壽」的寓意，期望城池千秋永固。相傳在四千多年前，帝堯被推為部落領袖，以平遙一帶為定居地。後來因汾水氾濫，晉中盆地被夷為一片晉陽湖，帝堯只好率眾遷往平陽（今臨汾）。其後，堯禪讓帝位予舜，舜派遣大禹承擔治理晉陽湖的大業，經十餘年努力，終於治水成功。因水災而遷往各地的人紛紛返回故土，帝堯生於古陶的兩個女兒也回到故土，決定在父親當初的「封地」修一座城池。當他們沿着汾河回到故鄉時，眼前竟是河泥滿目，赤地千里，一時無法決定城池應築在何處。正在此時，一隻金燦燦的烏龜從汾河爬上岸來。帝舜說：「烏龜出現，這是大吉大祥之徵兆，也可能是先皇顯靈於我們。就讓牠自由地爬行吧，牠停在哪裏，我們就把城池築在哪裏。」結果，烏龜來到平遙地界時匍匐不動，於是舜就命令人民在這裏築起一座龜城。

普通的縣城，多數只設四個城門，也就是城的每一邊開一個，開在牆的正中。明代擴建的平遙開闢六門，在東西兩面各多設一道城門，象徵烏龜的頭尾和四足，其中下東門直向東而開，據說是古人怕烏龜爬走，故意將「後腿」（即下東門）拉直。古城完好保存着明清的四大街、八小街、七十二條蚰蜒巷的平面格局，則象徵了龜背的壽紋。

城牆是大型的人工構築，統治者常依賴堅固的城牆來保護城池，這意味着城牆最突出的功能是軍事防禦。平遙的古城牆平面呈方形，整座城牆長6,163米，牆體建有城樓2座，角樓2座，魁星樓1座，堞樓72座，上建垛口3,000個，象徵孔子「三千位弟子，七十二賢人」，故有文化城之說。加上護城河和甕城，形成由三道防線組成的城防體系。一旦發生戰爭，配備充分糧食及完備守城器械的士兵，可以在守中帶攻，積極靈活地打擊敵軍。大禹治理滔天的洪水之災，運用的方法是築土堵水。從這個意義上講，城牆這一巨大的人工工事在抵禦洪災中，起到不可估量的作用。1977年，平遙遭受百年未遇的特大洪災，城外農田、房屋毀壞嚴重，唯有依賴城牆保護的古城民居安然無恙。

平遙古城形制謹守中國漢族文化的禮制，其城方三里，符合古代典章制度的標準。在方位辨正方面，大型公共建築以左祖右社之勢對稱分布，如左文廟右武廟、左城隍右縣衙、左道觀右寺院等，是中國北方明清城鎮之典型代表。此外，由整個縣城的布局，以至個別院落都表現出對「天人合一」的追求，具體表現就是中軸強化，面南為尊。二層閣樓舖面沿大街而立，錯落有致；兩進、三進深宅大院在小巷中藏，封閉嚴密。更難能可貴的是，整個城池至今仍完整及系統地保存下來，故能與西安、荊州和興城並譽為全國四大古城。