Na zijn kroning tot keizer in 962 keerde Otto terug naar Duitsland en kon paus Johannes zijn liederlijke leventje weer oppakken. Een jaar later ontving Otto het bericht dat de paus bezig was een samenzwering tegen hem op touw te zetten. Onmiddellijk vertrok hij naar Rome, waar de inwoners zonder enige vorm van tegenstand de poorten voor hem openzwaaiden. Johannes ging ervandoor in een koets, met twee minnaressen en een kist juwelen, en verschanste zich in een kasteel in Lazio.
De keizer kondigde af dat in de toekomst geen enkele paus meer gekozen mocht worden zonder zijn instemming. Hij riep een synode bijeen met de opdracht de zittende paus te berechten. Johannes XII werd bij verstek beschuldigd van moord, meineed, heiligschennis en incest. Een kardinaal klaagde hem ook aan wegens het toosten op de duivel, het aanroepen van Jupiter en Venus en het deelnemen aan dobbelspel.
Otto nodigde de paus uit zich vrij te pleiten. Dat deed deze door een brief te sturen waarin hij iedereen excommuniceerde, te beginnen met de keizer, die hem daarop afzette en een leek in zijn plaats benoemde. Deze nieuwe paus, die de naam Leo VIII aannam, stond bekend als een eerlijke en verstandige man, ver verheven boven het gekrakeel; het tegendeel van Johannes, die ook over hem de banvloek uitsprak.
Op de derde dag van februari 964 luidden de stormklokken in Rome en stroomden de inwoners de straten op om te demonstreren tegen Otto, want die had de paus benoemd zonder hen iets te vragen.