和其他国家不同，德国没有规模宏大、历史达数百年的国家图书馆。1913年起，新建的莱比锡德意志图书馆才收集全部德文书籍。德国的分裂导致了1947年美因河畔法兰克福德意志图书馆的建立，它为西部承担了莱比锡图书馆的任务。和莱比锡图书馆一样，它是由书商建立的，从1969年起是一个联邦机构。

随着1990年8月统一条约的签订，两个图书馆合并为德意志图书馆。它是德意志联邦共和国全部德语书籍的总档案馆和民族史资料中心，目前总藏书约1400万册。1970年在柏林建立了德国音乐档案馆，作为法兰克福音乐之家的分部。此外，1933－1945年德国流亡档案馆也迁至法兰克福。莱比锡的专门部门还包括图书保护中心和德国图书和文字博物馆。

最重要的科学图书馆还有藏书600多万册的慕尼黑巴伐利亚国家图书馆和藏书约400万册的柏林普鲁士文化财产国家图书馆。国立、州立和大学图书馆也拥有大量藏书。除了这些普通科学图书馆外，还有专业图书馆，例如科隆的中央医学图书馆。德国图书馆中的一件瑰宝是沃尔芬比特尔的奥古斯特公爵图书馆，藏书660000多册，其中12000册是珍贵的中世纪手抄本。

联邦共和国向读者开放的公共图书馆大约有13500座，藏书超过1.29亿册。这些图书馆主要由乡镇和教会经管。许多图书馆通过作家朗诵会、举办活动和展览会而成为积极的文化中心，在许多较小的乡镇甚至是当地唯一的此类中心。人们在这里不仅获得文学和信息；它们还通过为青少年成立的专门部门、音乐图书馆和艺术作品出借处照顾特殊兴趣。许多城市和乡镇采用流动图书馆，为了人们在郊区和农村也能借阅图书。