哈布斯堡王室中第一个登上皇位的是鲁道夫一世（1273－1291）。皇权的物质基础如今不再是已失去的帝国财产，而是各王朝的王族财产；王族领地权政策成为每个皇帝的主要利益所在。

卡尔四世于1356年颁布的黄金诏书是一种帝国基本法，它赋予7位地位显赫的侯爵（选帝侯）以选举国王的特权以及其他大邦诸侯没有的另外一些优先权。在那些小伯爵、领主和骑士逐渐失去作用的时候，城市的影响因其经济力量而不断扩大。城市同盟的缔结使城市进一步强大。这些同盟中最重要的汉萨同盟成为14世纪时波罗的海地区举足轻重的力量。

1438年开始，帝国虽然表面上仍为选举制的君主国，而王权却实际上由那时已成为最强大地区势力的哈布斯堡王族掌握。15世纪时，要求帝国进行改革的呼声越来越高。第一个不经过教皇加冕而即位的皇帝马克西米利安一世（1493－1519）试图实现这一改革，但无成效。由他创建或改组的帝国议会、帝国专区、帝国法院等机构虽然一直存在到帝国结束(1806），却未能阻止其继续分裂。出现了皇帝与帝国的二元制：一方面是帝国首脑，另一方面是选帝侯、各邦侯爵和诸城市。皇帝的权力由于他们在选举时同各选帝侯达成的屈从协议而受到限制并越来越有名无实。各邦侯爵，尤其是大邦侯爵以削弱帝国权力来大张旗鼓地扩充自己的权力。然而帝国继续存在：皇冠的光辉尚未消失，帝国的思想仍然生气勃勃。帝国大联合为中小各邦提供保护，使之免受强邻的侵犯。

城市成为经济力量的中心，它们首先从不断发展的贸易中得到好处。纺织工业和采矿业中出现了超越手工业者行会系统，和远途贸易一样带有早期资本主义特色的经济形式。与此同时，在思想方面发生了以文艺复兴和和人文主义为标志的变化。这种新觉醒的批判精神的矛头所向首先是教会的诸种弊端。