当欧洲最强大的查理曼帝国解体后，帝国被查理曼大帝的子孙一分为三。查理曼帝国的解体，对于欧洲来说是一个标志性的事件，因为他基本奠定了欧洲大陆主要国际的雏形。
根据《凡尔登条约》，洛泰尔分得的地盘叫做中法兰克，大约相当于今天的意大利等，路易分得的地盘叫东法兰克，大约相当于今天的德国等，查理分得的地盘叫西法兰克，大约相当于今天的法国等地。
老大洛泰尔虽然继承了查理曼大帝的皇位，但是他的子孙并没能保住中法兰克，结果被东法兰克和西法兰克瓜分。公元962年，罗马教皇为奥托一世加冕，恢复100多年前查理曼皇帝享用的称号：罗马人的皇帝。
自此神圣罗马帝国的名字，被日耳曼人传承了下去。由于东法兰克受到了罗马教廷的认可，因此神圣罗马帝国成为西欧基督教 国家的正统，与当时的东罗马帝国分庭抗礼。
然而神圣罗马帝国从建立之初，就不是一个完全统一的政治实体。它实际上是一个由数百个更小的附属单位组成的政治联合体。这些附属单位包括亲王国、公爵领、伯爵领、帝国自由城市等多类政治区划。
神圣罗马帝国境内的小公国，并不完全服从神圣罗马帝国皇帝，相反却对罗马教廷的教皇非常尊重。因为每个小公国的国王登基，只有获得教皇的加冕，才名正言顺。
因此神圣罗马帝国皇帝的王权，往往被罗马教廷的教权限制，因此王权的权威受到了极大的挑战，所以神圣罗马帝国并不神圣。在罗马帝国境内，真正神圣的是罗马教皇。
东法兰克的神圣罗马帝国，主要由日耳曼人组成，他们并不是真正意义上的罗马人。相反日耳曼人在罗马帝国时代被称为野蛮人，他们是高傲罗马人的奴隶。
而且东法兰克一直没能像罗马帝国一样，实现对欧洲大陆的严密控制。导致神圣罗马皇帝在德意志的权力和威望逐渐衰落，对帝国核心地区的控制力也随之减弱，因此次罗马非彼罗马帝国。
神圣罗马帝国虽然既不神圣也不罗马，但是对于西欧国家来说却有着非常重要的意义。世俗权力需要依靠神圣罗马帝国与罗马教廷建立联系，而罗马教廷也需要神圣罗马帝国，来维持欧洲基督教的正统。
罗马教皇在西欧具有强大的号召力，为了对抗君士坦丁堡的东罗马帝国，日耳曼人建立的神圣罗马帝国必须长期存在。所以神圣罗马帝国屹立近千年不倒，完全是西欧教权和王权妥协和维护的结果。
当东罗马帝国被奥斯曼帝国灭亡之后，神圣罗马帝国的神圣面纱进一步脱落，而罗马教廷也不再对它重视。随着法兰西帝国的崛起，神圣罗马帝国体系被拿破仑彻底摧毁。
1806年在拿破仑的威逼利诱下，16个神圣罗马帝国的成员邦脱离帝国。拿破仑强迫神圣罗马帝国皇帝奥皇弗朗茨二世解散神圣罗马帝国，并且放弃神圣罗马皇帝和罗马人民的国王的称号。
