东汉灭亡后，关中等中国北方地区，长期被胡人占领。期间先后有五个胡人政权，在长安建都。魏晋南北朝时，长安经常被战乱破坏，兴革不多，只有后赵政权曾在公元342年，修建长安宫殿。另外，长安在前秦大臣王猛执政期间，以及北周统治时期，都曾一度呈现繁荣的景象。公元582年，隋文帝下令在汉长安东南20公里的龙首原南面，另建新的长安城，原因是汉长安城已有七百多年历史，期间屡遭破坏，已不堪居住；城的规模狭小，不易扩展；城内地下水已变咸卤，不宜饮用；渭水南移，对汉长安城构成威胁。

隋文帝任命著名建筑师宇文恺，出任新都城的设计师。工程从公元586年6月动工，动用民工数十万，前后历时九个月，至次年2月建成。宇文恺充分利用龙首原北高南低的地形，将宫城建于龙首原的北部，使皇宫有居高临下之势。这不但使宫城易于防守，同时又突出皇帝至高无上的地位，体现了儒家思想中“像天设都”的神权观念。

隋唐长安城主要分为宫城、皇城和外郭城三大部分。宫城是隋唐两代皇帝、嫔妃和皇太子的居所，也是皇帝处理朝政的地方。宫城包括隋代修建的“太极宫”，以及唐代修建的“大明宫”和“兴庆宫”，合称为“三内”或“三大内”。宫城是皇帝举行大型典礼、上朝听政、处理军国大事、会见外国宾客和娱乐休息的地方。每个宫城之内，宫殿多则十余所，少的也有近十所。此外，宫城内还有水池、球场、亭台、馆阁等建筑物。隋唐宫城的主要宫殿，一般都位于宫城的中轴在线，而其他别殿和亭台楼阁，则分布在左右两侧。这种突出中轴线的宫殿群建筑，对后来各朝的宫殿建筑产生重大影响，成为中国古代宫殿建筑的独有特色。

皇城是中央官署衙门的所在地，位于宫城南面。外郭城内有很多坊里，城中的住宅、商业贸易区和寺院道观等，都分布其中。外郭城的面积，几乎占隋唐长安城的四分之三。隋唐长安城的住宅区面积，远比汉长安城的宽广，而且坊里排列整齐划一，显示当时城市设计水平的进步。