相傳平遙古城始建於西周，已有二千七百多年歷史。在1997年12月被聯合國列入《世界遺產名錄》。聯合國的專家稱讚平遙古城是中國境內保存最為完整的一座古代縣城，是中國漢民族城市在明清時期的傑出範例，在中國歷史的發展中，為人們展示了一幅非同尋常的文化、社會、經濟及宗教發展的完整畫卷。

平遙史稱古陶地，帝堯初封於此，虞舜時屬并州。大禹治水後分天下為九州，古陶被劃入古冀州地。春秋時稱陶，屬晉國，戰國時屬趙。秦始皇統一中國後，置平陶縣，屬太原郡。西漢時置京陵縣。北魏始光元年（公元424年），平陶縣這名稱因避太武帝名諱而易名，遂為「平遙」。此後，唐、五代、北宋、金、元明清迄今，平遙縣名一直沿用不改。

西周的平遙是個狹小的土城，是周宣王（公元前827—前782年）為了防禦獫狁南侵，而命尹吉甫屯兵修建。當時的遺址就在今日古城的西北處，至西漢時期設平遙為京陵縣，成為晉中地區的商貿集散地。到了南北朝，北魏以今山西大同市為都，後南遷洛陽。期間大大促進了周邊縣城的發展，平遙城也不例外。平遙城自魏朝定址後，至今未變，只是土城堰於明代洪武三年（1370年）擴建改築為磚石牆，那就是今日的平遙古城牆。著名學者余秋雨在《抱愧山西》中評價：「在山西最紅火的年代，財富的中心並不在省會太原，而是在平遙、祁縣和太谷，其中尤以平遙為最。」可見平遙是個重要商城。明代中葉的平遙商人足跡遍全國，清代的平遙勁旅商幫則稱雄大江南北。平遙自明末清初起，成為中國金融城市之一，曾經繁榮一時。專營匯款業務的金融界行業「票號」，就是在平遙首先創辦。當年平遙以「日昇昌」為首的八大票號，被譽為「匯通天下」，在全國17個省的45個城市均設有分號，有的票號甚至跟美國紐約、三藩市也有匯兌業務往來。古城票號的發展和歷史，促進了中國金融的發展。

平遙古城至今仍能保持古色古香的風格，並非出於偶然。由於歷年的戰亂、人為破壞及風雨侵蝕，特別是七十年代末期的大水，古城牆嚴重受損。經多次維修，才回復今日的完整面貌。城內的樓房，也抵不住戰火和歲月摧殘而破敗不堪。1981年，平遙縣的工程師根據當時的實際情況，制定了一份《平遙縣城市總體規劃》，規劃在古城內縱橫開拓幾條大馬路，城牆上也要相應開挖8個大出口。當時的古城城牆的東端已掘開了一個出口，正在拓寬馬路，並拆去兩旁長180米的傳統民居房屋群。同年，中國同濟大學建築城市規劃學院的阮儀三教授，受山西省委委託，正在榆次市做城市規劃工作，《平遙縣城市總體規劃》送到他手上徵求意見。阮教授看後大吃一驚，他早於六十年代在平遙考察，深知古城的價值，於是鄭重建議縣領導停止這種所謂「建設性的破壞」工作，並和山西省建設委員會商定，由阮協助重新規劃平遙。1981年7月，阮教授率領10名研究生和大學生，開赴平遙，重新編制規劃，重新安排汽車環行道、上下水道及電纜線的走向，並在古城的西面和南面開闢新區。完成的規劃直接送到北京，得到有關專家和負責官員的認可，國家文物局也批撥專款維修城牆。山西省很快批覆了這個規劃，於是平遙古城才得以保存下來。

隨着古城品位價值不斷提高，政府逐步改善城內的道路、排水、供水、照明等設施。城內的各主要街道大多保留古青石板的路面，部分仍殘留着古時大車的車痕，更嚴格規定車輛的行駛時間。路燈是仿古式設計，密如蛛網的電線、通訊線全部下地，絕不容許這些現代設施淡化古城的味道。有人說平遙古城像酲古酒，時間愈久愈香醇。但釀着古酒的並非整個平遙縣，隨着城鎮工業的發展，以及人口增加，不少機關、企業單位、學校、商店以及居民住宅均建在古城區外。可見只要規劃有致，古物和新貌是可以並存。平遙盛產推光漆器、古玩以及地方特產，其純樸古雅的環境，是良好的影視拍攝場景。因此，商貿城、旅遊城、影視城的「三城」策略，成為平遙縣政府城建規劃的目標。

著名的中國古建築專家羅哲文教授曾作出這樣評價：「平遙古城歷史悠久，保存完整，文物古蹟布局嚴謹，完全繼承了封建的『禮教』和『習俗』，充分展示了儒家、佛家、道家文化，是研究中國政治、經濟、文化、藝術發展歷史的活樣本。」平遙古城依舊制建成，至今未改。城內的小巷通連大街，大街直對城門，縱橫交織，主次分明，井井有條，組成了綿密的道路網絡，具有突出的歷史風貌和明顯的地方特色。古城內民風純樸，保留舊日習俗，如婚喪嫁娶，都有一定程序，是一座名副其實的古城。