得知教皇处罚的路德维希四世并没有因此而妥协，他于1324年5月22日在萨克森豪森提出言辞激烈的申诉，此后命人在帝国所有地区和城市进行宣读和说明。这似乎就更加激怒教皇，他于7月11日再次宣布剥夺路德维希四世因被选举为国王获得的所有权利，解除帝国所有封臣对他做的任何誓言。教皇激烈的反对态度动摇了路德维希四世的政治权威，此时曾经坚定支持他的一些老臣也先后去世，这就更削弱了他的政治实力。然而，丝毫没有妥协的他却通过政治联姻与法国卡佩王室保持着较为密切的合作关系。约翰内斯二十二世试图利用对路德维希四世的绝罚争取哈布斯堡家族的支持，这样不仅在德意志而且在法国的王位更替中也能获得先机。卢森堡家族与法王之间、哈布斯堡家族与教皇之间的密切关系，都对受到教皇绝罚的路德维希四世不利，他做出姿态欲与哈布斯堡派的国王美男子弗里德里希和解，提出与其共治德意志，甚至还作出承诺，如果教皇在六个月之内承认弗里德里希为德意志的国王，他将放弃王位。路德维希四世做出的姿态显然是为解除在德意志的后顾之忧，他并不甘心继续受制于教皇。1327年春，路德维希四世率大军进入意大利，获得当地吉伯林派的大力支持，按照传统拥立他为伦巴底的国王，于5月31日在米兰为他戴上伦巴底的铁王冠。1328年1月17日，路德维希四世的大军到达罗马，罗马市民拥立他为皇帝，由一位主教为其施加冕礼。4月18日，路德维希以皇帝的名义废黜远在阿维尼翁的时任教皇约翰二十二世，此后又以皇帝的身份发布谕令，声称教皇不应离开罗马，否则将失去教职。在罗马的枢机主教们以此为依据，于5月12日选举尼古劳斯五世（Nikolaus V.，1275—1333，1328—1330年在位）为对立派教皇。27日，新教皇在罗马再次为路德维希四世主持了皇帝加冕礼。然而，这位在路德维希扶持下登上罗马圣宗座的新教皇很难获得广泛的认可，更是遭到法国以及阿维尼翁教廷的坚决抵制，甚至在罗马城内也缺乏稳固的基础。在选立新教皇三个月之后，罗马市民就因不满路德维希四世和新教皇的强征暴敛而进行反抗，迫使皇帝和教皇同时离开罗马。路德维希四世原计划于12月在米兰召开针对约翰内斯二十二世的宗教会议，但曾经为他戴上伦巴底铁王冠的米兰市民却紧闭大门，将其拒之城外。1328年和1329年之交期间，一些曾经希望能够获得德意志国王支持的高级教士也都纷纷倒戈，甚至被路德维希四世在罗马扶上圣宗座的尼古劳斯五世也对他亲自加冕的德意志皇帝失去信心，他只身前往阿维尼翁向约翰内斯二十二世忏悔，取得后者的宽恕。1330年1月13日，美男子弗里德里希去世，帝国境内风云突变，路德维希四世不得不于2月返回德意志。