中国具有多种特色的地方民居，其中有“南皖南，北山西”之说，山西平遥古城的古民居建筑数量多，而且保存完整，是浓厚的地方特色与汉族传统的和谐结合。现时平遥城内的古宅多为清代或民国时期所建，也有部分是明代遗存。这些建筑之所以能保存至今，是因为建筑材料以砖石为主，加上大量运用锢窑式结构，份外稳固；其次，它们大都是晋商的宅院，主人既有经济能力，自可负担上乘而耐用的建材。传统汉族民居依明确的中轴线而建，左右对称，主次分明，平遥古宅也体现了这点。

平遥的民居建筑，规模不一，类型多样，但总的来说都具备“对外封闭、对内开敞”的特色，并以四合院为主。所谓四合院，是指由四面房屋围成的院落，房屋的门窗都向内开，只有大门与外界相通，这是平遥居院内聚之处。说它们封闭，是因为院落四周多辅以全封闭式的院墙，部分墙上一级还有女儿墙，部分大院的房顶更布了城墙垛口、更楼或眺阁，恍如一座城堡式建筑。四合院具有灵活的空间组织，为人们提供舒适的生活场所，空间序列和布局，严格依照传统的礼教思想安排，大大促进了家庭向心的内聚力。形式多样、建造讲究的风水墙、风水楼、风水影壁等，都是平遥传统的四合院的建筑附加物，多数建在屋顶上。目的是为了风水好，祈求发家致富，子孙兴旺，因此这种建筑附加物的位置必须取中或高高在上。

北京的四合院都呈正方形，只有山西、陕西、甘肃、河南一带流行南北窄长的院落，这跟地理原因有莫大关系。山西位处黄土高原，风沙较大，两厢向院内靠近，可遮挡部分的正房，避免风沙正面吹袭。此外，山西耕地少，狭长的院落大大节省了用地。

平遥住宅的四合院形式，规模不一，但基本布局大体一样，主要是由宅门、倒座、院落、厢房、正房等几部分组成。规模较大的院落，从高空俯瞰，或为“日”字型二进院，或为“目”字型三进院，规模再大的宅院，还包括左中右三路纵院并列。几套院落沿中轴左右排开，主次分明，院落之间用装饰华丽的垂花门甚至过厅作为分隔，有的甚至在院落一侧或后面建有花园。

平遥民居在四合院的通常布局形式基础上，又根据不同的功能要求，出现了其他几种形式。如沿大街而建的店铺商号多是前店后寝，四合院的倒座作为店铺，第一进院作为经营管理和接待，二进院、三进院作为居住及贮藏。这些宅院前是商业街，而后门接通巷道。有的大宅院在中轴线中端增设过厅，这就是会客、礼仪活动的地方。有大户将几个三进院或多进院横向拼联，组成一个大的院落。一些小户在用地和经济条件受到限制时，成一进院或二进院的形式。

平遥民居内有各种精美的木雕、砖雕、石雕和彩塑等饰物，这些装修工艺充分体现出当地工匠深厚的艺术素养和高超的技术水平，与宅外壁立的高墙，形成鲜明对比，予人外雄内秀的观感。大门檐下匾额上的题字往往是书法精美，造工精细，内容颇具文采，常有“凝秀”、“锡嘏”、“树德”、“敦厚”、“耕读”、“霞蔚”等。这些石雕、砖雕、木雕的文字反映了传统道德、伦理以及人们的生活信念和价值取向，潜移默化地传播了传统教化思想。民居檐下、雀替、垂莲柱等处常有木雕的图案，在正脊、影壁、窗台、楼梯栏板等处常有石雕、砖雕的图案，其题材常为人们喜闻乐见的内容，如吉祥图案或故事传说。