學校內最早的圖書室可追溯到當時臺北高等農林學校的圖書室，圖書室內有四根漂亮的柯林多式柱子，位置即是今日行政大樓的「貴賓室」及「總務長室」區域。在臺北帝國大學時期，因臺北高等農林學校併入臺北帝大，因此該區變為「配屬將校室」(類似今日的教官室)；戰後初期則改為「會議室」，為校內早期重要會議場所之一，近代因為使用需求才隔成「貴賓室」及「總務長室」。

　

• 臺北高等農林學校圖書室

昭和3年(1928)臺北帝國大學成立初期圖書館並未有館長，而是由當時學校內的司書官青木茂則代行館長事務。昭和4年(1929)由理農學部農學‧熱帯農學第二講座(園藝學)教授田中長三郎擔任首任圖書館館長。

田中教授畢業於東京帝國大學農科大學，為柑橘領域的重要研究學者。大正4年(1915)於美國華盛頓農務省擔任技士，在柑橘學者Dr. W. T. Swingle手下從事研究工作。在美國研究之餘更修習「圖書館學」，也造就後來田中教授在宮崎高等農林專門學校、臺北帝國大學除擔任研究教職外，皆身兼圖書館館長職務。
田中長三郎教授(吳明德, 蔡平里主編。1998年。田中長三郎敎授著作目錄。 臺北市 : 國立臺灣大學圖書館。209頁。)

田中教授於館長任內(1929-1934)蒐購「伊能文庫」、「Huart文庫」、「烏石山房文庫」、「上田文庫」、「桃木文庫」、「長澤文庫」等文庫，為今日臺大圖書館特藏資源奠定重要的根基。

另外其個人購自義大利之德國植物學者Otto Penzig與E. F. Nolte的許多藏書，其中多為1778年以前的植物學古刊本，尤以印刷術發明初期的4冊善本書(稱為搖籃期刊本)最為珍貴。上述藏書及田中教授個人其他收藏及手稿也成為臺大圖書館的「田中文庫」，其中圖書約3800餘冊，期刊200多種。

戰後初期，臺北帝國大學改制為國立臺灣大學。首任校長羅宗洛聘任周昌壽先生為圖書館館長，于景讓先生為代理圖書館館長。然而周昌壽先生因來臺罹患瘧疾，因此返回中國，後由于景讓先生處理館長事務(任期1946-1947.10)。

第三任圖書館館長(任期1949.06-1972.7)，由心理學系創系系主任蘇薌雨教授擔任。由於當時傅斯年校長認為於圖書館任職需要有相當的專業知識，因此更讓蘇薌雨館長於1950年至1951年期間至美國哥倫比亞大學選修圖書館學系相關課程。在長達23年的館長生涯中，蘇薌雨教授可說是戰後臺大圖書館奠基者之一，於任內將原本沿用帝大時期司書官制度變為採編組及閱覽組，更將校內圖書館「國際十進分類法」更改為現今的「中國圖書分類法」(中文圖書)及「美國國會圖書館分類法」(西文圖書)。

　　

• 左：蘇薌雨教授(國立臺灣大學四十一學年度畢業紀念冊)
• 中：歡送蘇薌雨館長赴美考察
• 右：舊總圖書館早期鑰匙串(臺大校史館藏) 。該串鑰匙出現在「歡送蘇薌雨館長赴美考察」右排第一人手上。

　

• 第一號登錄簿

　 　 　

• 臺北帝國大學附屬圖書館移交清冊