京師圖書館是清宣統元年（1909年）朝廷批准籌建的國家圖書館，屬學部管轄，又稱學部圖書館。由翰林院編修繆荃孫擔任監督，調集翰林院、國子監、內閣大庫殘本為基藏，並徵得各省官府藏書及常熟瞿氏鐵琴銅劍樓、歸安姚覲元咫進齋、揚州徐乃昌積學齋等私家藏書，整理編目，館址暫設於什剎海旁的廣化寺內。辛亥革命（1911年）後，由民國政府教育部接管，於民國元年8月正式開館。民國十五年（1926年）更名國立京師圖書館，館舍移方家胡同南學原址。民國十七年（1928年）移址中南海居仁堂，改稱國立北平圖書館。民國十八年（1929年），與北平北海圖書館合併，由蔡元培、袁同禮任正、副館長，館址遷文津街。民國二十年（1931年），文津街新館落成啟用。「九一八」事變發生後，北平圖書館奉教育部密令，擇庫藏之精華南運上海暫存。旋又將其中古籍善本二千七百餘種運往美國，寄存華盛頓國會圖書館，至1966年才歸還，由台灣中央圖書館保存。抗日時期，艱難維持。抗戰勝利，重拾河山，藏書規模有所擴大。中華人民共和國成立（1949年）後，改名北京圖書館，現為國家圖書館。

清光緒三十三年（1907年），兩江總督端方在南京創辦江南圖書館，聘任著名版本目錄學家繆荃孫為圖書館總辦，館址選在城西龍蟠里，宣統元年（1909年）新樓落成，正式開館。江南圖書館是清末、民初地方官辦圖書館的典型。其創辦伊始，即由繆荃孫斡旋，以78,000兩銀之價，購得杭州丁氏八千卷樓全部60萬卷珍藏，就此奠定館藏雄厚基礎。此後又收得武昌范月槎木犀香館等私家圖書，接收江蘇通志局藏外文書籍五百餘種，獲朝廷頒賜《大清會典》、《古今圖書集成》石印本，徵調贛、浙、粵等省官書局印書，充實庫藏。及宣統三年（1911年），已貯書80萬卷之多，編有《江南圖書館善本書目》、《江南圖書館書目》等。民國元年（1911年），改名江南圖書局，後又數度易名為江蘇省立圖書館等。民國十六年（1927年），著名學者柳詒徵出任館長之職。據民國二十五年（1936年）柳氏主持編纂的《江蘇省立圖書館圖書總目》記錄，此時館藏圖書已有223,800餘冊。中華人民共和國成立（1949年）後，與國立南京圖書館合併。

京師大學堂是清光緒二十四年（1898年）「戊戌變法」時期，清廷創建的國家最高學府。由梁啟超代總理衙門起草的《京師大學堂章程》，對學校藏書建設作了明確規定。政府將原強學會改設的官書局藏書，移置學堂編譯書局使用。光緒二十八年（1902年），京師大學堂藏書樓正式成立，次年改名京師大學堂圖書館。最初的典藏，是由同文館歸並學堂譯書館而合入之書。為充實館藏，朝廷徵調江蘇、浙江、湖南、湖北、廣東、廣西諸省官書局歷年所印經、史、子、集及時務新書，每種提取10部或數部。此後又費銀數萬，多次派遣專人遠赴南方採購古籍。而其古籍善本之大宗，則來源於廣州方功蕙碧琳琅館後人捐贈的舊藏珍籍，計一萬八千餘種、二萬二千餘冊，時值白銀12,000兩。民國元年（1911年），京師大學堂圖書館改為北京大學圖書館。

上海商務印書館創建於清光緒二十三年（1897年），是中國近代著名的私人出版企業。涵芬樓是商務印書館編譯所的圖書室，由編譯所所長、著名版本目錄校勘學家張元濟一手策劃籌建，書室在上海閘北寶山路編譯所三樓。出於影印重版古籍之需要，涵芬樓以古籍善本為收藏重點。經二十餘年辛勤搜集，積貯宋元明舊刻暨抄校本、名人手稿等善本三千七百餘部、三萬五千餘冊，其中不少是遞經明清著名藏書樓收藏的稀世秘笈。民國十一年（1922年），商務印書館董事會決定以公益金興建公共圖書館。民國十五年（1926年），東方圖書館成立，涵芬樓成為圖書館古籍善本專室，是上海最大的公共圖書館。圖書館樓高5層，第二層設閱覽室、閱報室，每天下午和晚上定時向社會公眾開放。民國二十一年（1932年）「一二八」淞滬抗戰爆發，日軍戰機轟炸閘北，商務印書館被炮彈擊中，東方圖書館、涵芬樓葬身火海，數萬藏書毀於一旦。唯幸有574種善本因存放他處而得免於劫難，張元濟為此編有《涵芬樓燼餘書錄》，著錄其詳。劫後東方圖書館恢復重建，但畢竟難復舊觀。1953年，商務印書館將涵芬樓燼餘善本移送文化部，由國家圖書館收藏至今。

1939年，抗戰進入艱難時期，江南藏書，損毀流失，古籍淪亡，危在旦夕。為保存中華文化，葉景逵、張元濟、陳陶遺等發起在上海成立合眾圖書館。由葉氏聯絡捐募基金20萬，在法租界購地建樓，組建董事會，陳陶遺、張元濟先後任董事長，聘請顧廷龍主持館務。合眾圖書館藏書，旨在「以文史為範圍，供專門之研究」。館藏基礎是杭州藏書家葉景逵捐獻的「卷盦」全部書藏，凡二千八百餘部、三萬餘冊，內有唐寫本2部、宋元本9部、明刻善本四百餘種，以及清顧祖禹、惠棟、錢大昕等名家稿抄校本。張元濟捐贈、寄存了其涉園所藏近千種嘉興地方文獻。捐書者還有蔣抑卮、陳叔通、李拔可等藏書家，共計收藏古今圖書25萬冊、金石拓片15,000種，以及期刊、報紙、書畫等各種形式的歷史文獻。1953年，合眾圖書館董事會將全部館藏、館產捐獻給上海市人民政府。1955年改名為上海市歷史文獻圖書館。1958年併入上海圖書館。