Quando Gregório VII, um monge reformista, foi eleito papa em 1073, a polêmica entre imperador e papa começou.
Nas fileiras superiores do clero alemão, Gregory tinha muitos inimigos. Portanto, o rei Henrique declarou que Gregório não era mais papa e os romanos deveriam escolher um novo papa [1]. Quando Gregório ouviu falar disso, excomungou Henrique IV, declarou que não era mais imperador e disse a seus súditos que eles não precisavam mais obedecê-lo como haviam jurado fazer.
A excomunhão do rei causou uma profunda impressão tanto na Alemanha como na Itália. Trinta anos antes, seu pai Henrique III havia deposto três papas, mas quando Henrique IV tentou copiar este procedimento, ele não teve o apoio do povo. Os saxões começaram uma segunda rebelião, e o partido anti-royalista cresceu em força de mês para mês.
Para Canossa
Henry tinha sido excomungado por este ponto, e enfrentando uma oposição generalizada em casa com Rudolf como figura de proa, Henry se encontrou com o Papa em uma fortaleza nos Alpes do Sul. Durante três dias ele sinalizou sua penitência na neve, descalço e usando um pano de saco, levando a uma reconciliação com o Papa Gregório VII.
Segunda excomunhão de Henry
A oposição dos nobres rebeldes alemães usou a excomunhão de Henrique para criar um rei rival Rudolf de Rheinfelden (Forchheim, março de 1077). No início Gregório parecia ser neutro porque os dois partidos (imperador e rebeldes) eram de força bastante igual. Mas finalmente ele decidiu por Rudolf após sua vitória em Flarchheim (27 de janeiro de 1080) e declarou novamente a excomunhão e a deposição do rei Henrique (7 de março de 1080).
Isto foi amplamente sentido como uma injustiça. Quando Rudolf morreu em 16 de outubro do mesmo ano, Henry, agora mais experiente, assumiu a luta. Em 1081, ele abriu o conflito contra Gregory na Itália. Gregory tinha agora se tornado menos poderoso, e treze cardeais o abandonaram. Roma rendeu-se ao rei alemão, e Guibert de Ravenna entronizou como Clemente III (24 de março de 1084). Henrique foi coroado imperador por seu rival, enquanto o próprio Gregório teve que fugir de Roma na companhia de seu "vassalo" normando Robert Guiscard.