ハインリヒ3世の死は、帝国の政教一致の終局を告げる分岐点であって、その後継であるハインリヒ4世（1050.11.11.-1106.8.7.；在位1084-1105）と教皇グレゴリウス7世（1020？-1085.5.25.；教皇職1073.4.22.-1085.5.25.）との対立は、皇帝と教会の二重権力の限界を露呈させることとなり、帝国は事実上、分裂した。

グレゴリウス7世は実名をイルデブランドというトスカーナ出身の修道僧で、長じて、クリュニー派の改革運動に身を投じ、次第に頭角を現し、教皇グレゴリウス6世に見いだされ、ローマで活躍の場を得たが、教皇の失脚に連累して下野した。再び、ローマに復帰したのは、教皇レオ9世の就職以後であったが、以来、歴代教皇側近として教会への集権化を一義的使命に、ハインリヒ3世の存命中から、その教会改革の欺瞞性を以って、教会へ支配権を奪取すべく、反ザリエル家の立場をとり、ドイツ領邦への干渉を陰に陽に推し進めた。この一つの手段として取り上げられたのが、聖職叙任権の問題である。

一方、ハインリヒ4世は、というと、ローマ王として即位したものの、未だ5歳の幼児に過ぎず、母后アグネスが摂政として宮廷を守ったが、一時、ハインリヒが誘拐されるなど窮地に追い込まれる場面もあった。こうした緊張の中で成長したハインリヒ4世は、ローマに対し、並々ならぬ警戒心と対抗心を抱いており、教会が領邦諸侯と手を結ぶことを頓（トミ）に警戒していた。その最中（サナカ）始まったのがザクセン反乱である。1073年、ザリエル家の非合理なザクセン経営にくすぶり続けていた憤懣の炎が燃え上がり、ザクセン公を中心に領主領民一体となった反乱軍が、ザリエル家領を襲撃した。1074年5月、戦況が思わしくないと判断したハインリヒ4世はあろうことか、教皇に縋（スガ）り、挑戦的だった聖職叙任権に対する態度も一変させて、服従を約束してしまった。しかし、土壇場でのハインリヒはある意味、寝業師であり、それはその後の展開で明白となるのである。

1075年、ホーエンブルクでザクセン公が敗走し、情勢が優位になると、ハインリヒ4世は、忽（タチマ）ち教皇との約束を反故（ホゴ）にし、聖職叙任権を行使して、ミラノ大司教をはじめ、帝国内の司教を自ら任命することに踏み切った。しかし、これは、グレゴリウス7世にとって、勿怪（モッケ）の幸い、というべき王権簒奪（サンダツ）の絶好の機会であって、戴冠前のハインリヒ4世を屈服させる好材料であった。時に、ザクセンを中心とする反乱は、未だ収拾の見込みはなく、教皇はドイツ南部全域にも檄を飛ばし、その勢力の拡張を図っていた。教会は依然、圧倒的優位に見えた。それにも関わらず、1076年1月、ハインリヒ4世は教皇の廃位を宣言し、反ザリエル諸侯に帰順を求めた。これは陳腐な結果をもたらした。2月、教皇は十分な下工作の上、ローマ王の破門と王位の剝奪を宣言したからである。束の間の小康状態の後、ドイツ諸侯は教皇の意を汲んで、1077年2月にアウグスブルクで王位決定のための諸侯会議を開くこととし、それまでにハインリヒが謝罪し、破門が撤回されなければ、別の王を選立するか、空位とすることを決議した。なおかつ、この会議には、教皇の出席を求めることでも衆議一決し、兼ねてより、専制横暴と非難されてきたザリエル家にとどめを刺そうとする意図は明らかだった。

孤立したハインリヒ4世は教皇に使節を送ってみたものの、それは予想通り、門前払いであり、さらに愚昧な行為として諸侯の失笑を買った。反ザリエル陣営の領邦諸侯と貴族たちは、反対王としてシュヴァーベン公ルドルフを選立することに決め、目前に迫ったクーデターの準備を怠ってはいなかった。係る情勢に、ハインリヒの取るべき道は一つしかなかった。それは会議の開催前に教皇に会い、和解することである。しかも、破門の身であることは公的な法の保護下にない身分である。早急に赦免してもらわなければならない。ローマ王は教皇の滞在する北イタリアのカノッサに向かった。
既にこの時、ハインリヒには勝算があった。王は教皇が自分の申し出を断れないことを確信しており、その理由も解っていた。神に仕える者は、赦しを乞うものを追い返すことはできない。1077年1月、教皇はローマ王の突然の訪問に驚き、捕縛を恐れて面会を避け、カノッサの城に籠（コモ）った。王は武器を置き、修道士の衣を着て、城の前で赦免を乞うた。ハインリヒは道化ではなかったが、一目置くべき役者だった。身の危険を感じた教皇は、破門を解き、ほうほうの体でローマへ帰った。

　領邦諸侯とローマ王の対立は解消されることなく、又、聖職叙任権での争いにも決着はつかず、反ザリエルの闘いに終わりは見えなかった。教会はある時は中立を装い、ある時は反ザリエルの立場に立ち、その意向は判然としなかったが、1080年1月、フラックハイムの戦いでシュヴァーベン公がザリエル軍を破ると、教皇はその勝利を祝福し、3月、再び、ハインリヒ4世に廃位と破門を通告した。そのため、教皇は決して高潔な人物ではない、という評判が立ち、その利害得失だけの生き方に疑問の声が上がった。6月、ハインリヒ4世は政治的手段に出て、ブリクセン教会会議を招集し、教皇の廃位を宣言、10月、シュヴァーベン公が戦病死すると、1081年、イタリアへ進軍し、ローマを包囲した。グレゴリウス7世はローマを追われ、1084年3月、ハインリヒ4世に指名されたラヴェンナ大司教グイベルトが教皇クレメンス3世（?-1100.9.8.;教皇職1080,1084-1100）となった。そして、ようやく、ハインリヒ4世の頭上に帝冠が輝いた。翌1085年5月、稀代の教皇グレゴリウス7世はサレルノで死去した。ハインリヒ4世の治世は、波乱万丈で艱難辛苦の連続であった。ローマとの一時的宥和の後、すぐ又、冬の時代である。晩年は二人の息子に次々に背かれ、1106年8月7日、破門されたままリュージュで死ぬ。55歳。騙し、騙され、の政争に明け暮れ、時代に翻弄（ホンロウ）された悲運の一生だった。