“桂林”一名最早出现在秦代，据说因当地遍植玉桂树而得名。桂林是一座古城。战国时归属楚国。公元前214年，秦始皇统一岭南，开凿灵渠，沟通湘江和漓江，桂林从此便成为南通海域、北达中原的重镇。

公元前221年，秦始皇灭了六国，统一北方大部分地区，之后，又派大将屠睢带领五十万人马，分五路向岭南进军。岭南多山，道路崎岖，秦军粮草供给不足，士兵挨饿，行动困难，终于停止前进。公元前219年，奉秦始皇之令，史禄带领十万人开凿灵渠，使属于长江水系的湘江和属于珠江水系的漓江连接起来，对沟通南北交通和开发岭南起了重要作用。这是中国古代伟大的水利工程，也是世界上最古老的运河之一。灵渠全长34公里，分南北两渠。灵渠修通后，军需物资可溯湘江而上，经灵渠入漓江，南下珠江。灵渠工程十分艰巨，沿途多山，但是管道设计很巧妙，充分利用地形之势，把湘江的水引经崇山峻岭，进入漓江。这项古老技术，今天还在使用。

不久，秦始皇统一了岭南，设置了桂林、象郡、南海三郡。历史上的桂林先后成为郡、州、府、县的政府所在地。唐朝时，设置桂管经略使，统领桂、梧等十四州，桂林的城市格局初具规模。宋代之后，桂林成为广西政治、经济、文化的中心，号称“西南会府”，连广西也被简称为“桂”。