В январе 1076 года в Вормсе император Священной Римской Империи Генрих собрал епископов на рейхстаг. Большинство немецких и ломбардских прелатов объявили о непослушании Папе Григорию и объявили его низложенным. Поскольку епископы и архиепископы ощущали себя не только духовными лицами, но и одновременно имперскими князьями, наделёнными почётными привилегиями, в желании Папы распределять церковные должности они увидели непосредственную угрозу и для себя, и для государственно-церковной системы (нем.: Reichskirchensystem), которая начала формироваться ещё при саксонской династии, а также угрозу государственной власти. В Вормсе 24 января было составлено ответное письмо Григорию с требованием покинуть папский престол.

В качестве законного обоснования указывалось, что Григорий был избран не легитимным путем — не соответственно закону об избрании Пап, установленного в 1059 году, но римским народом. Кроме того, Генрих как патриций Рима имел право назначать Папу или, по крайней мере, утверждать вновь избранного кандидата. Этого, однако, не произошло. Вдобавок, — прибавил в письме Генрих, — Григорий нарушил клятву никогда не избираться в Папы и, как известно, имел доверительные отношения с женщинами.

Ответ Григория VII не заставил себя ждать. На Синоде в Риме он объявил о низложении Генриха и его отлучении от церкви, обосновав это тем, что Генрих восстал против Церкви и потому не может быть королём. И добавил: те же, кто откажут в послушании папе римскому как представителю Бога на земле и продолжат общение с отлучённым правителем, будут лишены всех властных полномочий. Таким образом, все подданные Генриха были освобождены от присяги на верность, которую они принесли ему ранее.

После отлучения Генриха многие немецкие князья, бывшие ранее его сторонниками, отступились от него и потребовали на государственном собрании в Требуре в октябре 1076 года разрешить возникшую проблему до февраля следующего года. Было решено, что 2 февраля 1077 года в Аугсбурге должны будут состояться выборы нового императора, на которые, возможно, прибудет и папа Григорий. У Генриха оставалось всего три месяца, чтобы совершить невозможное. В декабре 1076 года низложенный король отправился с небольшим количеством сопровождающих через заснеженные Альпы в Италию. Враги пытались его задержать, заблокировав горные переходы. Генриху пришлось идти в обход, через Бургундию, теряя на дорогу драгоценные дни.

Григорий же, опасаясь появления в Италии не только Генриха, но и всей немецкой армии, вернулся в хорошо укреплённую крепость в Каноссе, принадлежавшую его стороннице маркграфине Матильде Тосканской. Узнав об этом, Генрих договорился с Матильдой и своим крестным отцом Гуго из Клюни, чтобы они устроили ему встречу с Папой. В торжество обращения св. Павла, 25 января 1077 года, Генрих босиком во власянице стоял под стенами Каноссы, ожидая решения Григория. Оно последовало лишь через три дня: 28 января Григорий, к разочарованию германских князей, которые уже мысленно короновали своего ставленника, снял опалу со своего противника.