據考證，廬山之名，早在周朝就有了。古人對千里平川上竟突兀出一座如此高聳秀美的山峰，山上又有眾多的瀑布溪流，曾感到迷惑不解。於是，就編了許多神話故事，來解釋廬山及其泉瀑的來歷。「神仙之廬」、「人去廬存」以及「趕山塞海」等傳說尤其為人津津樂道。

「神仙之廬」

傳說早在周初（大約公元前十六至十七世紀），也有說在周威烈王時候（即公元前四世紀），有一位匡俗先生在廬山學道求仙。據說匡俗字君孝，有的書稱匡裕，字子孝，也有稱為匡續。此外，還有稱匡俗為廬俗。據說，匡俗在廬山尋道求仙的事跡，為朝廷所獲悉。於是，周天子屢次請他出山相助，匡俗也屢次迴避，潛入深山之中。後來，匡俗其人無影無蹤。有人說他成仙去了。後來人們美化這件事，把匡俗求仙的地方稱為「神仙之廬」，並說「廬山」這一名稱，就是這樣出現。因為「成仙」的人姓匡，所以又稱「匡山」，或稱為「匡廬」。到了宋朝，為了避宋太祖趙匡胤「匡」字的諱，而改稱「康山」。

「人去廬存」

有一傳說：在周武王時候，有一位方輔先生，同老子李耳一道， 騎着白色驢子，入山煉丹，二人都「得道成仙」，山上只留下一座空廬。人們把這座「人去廬存」的山，稱為廬山；方輔成仙，所以又稱為輔山。但是老子與武王並不同時，這同樣是神話故事而已。

「趕山塞海」

傳說秦始皇在為自己建造陵墓的過程中，曾得到一根威力無窮的神鞭，那神鞭所到之處，山崩地裂。秦始皇將神鞭向驪山的一角抽去，只見驪山的那一角變成了一座脫離秦嶺的孤山。秦始皇再連抽幾鞭，不料把那山就趕到了長江南岸的鄱陽湖畔。此時日暮黃昏，天色漸暗，秦始皇決定暫作小憩，等第二天天亮時再趕山下海，鋪平去蓬萊神境的道路。那知，當夜失去神鞭的南海觀音聞訊趕到，乘秦始皇酣醉之時，換走了神鞭。第二天，秦始皇醒來，便舉鞭趕山下海，那知山是巋然不動。秦始皇一氣之下，竟在山上連抽九十九鞭，直打得那山滿身鞭痕，汗如雨下，可仍紋絲不動地屹立在原地。秦始皇無可奈何，只得將鞭子扔下，垂頭喪氣地回京都去了。從此，那山便在鄱陽湖畔紮下了根，這就是今日的廬山。由於秦始皇抽了九十九條鞭痕，後來就變成九十九道錦鄉深谷；秦始皇扔下的趕山鞭，變成了龍首崖外高聳入雲的桅杆峰；那滿身流淌的汗水，也化作了群山之中的銀泉飛瀑了。