Di umili origini e semplicemente laico, nacque a Roma sul clivius Argentarii, attuale salita Marforio. In gioventù partecipò a diverse ambasciate per conto dei suoi predecessori. Di animo mite e di profonda fede cristiana riuscì sempre nei suoi intenti, più da militare che da religioso.
Il suo nome apparve improvvisamente quale defensor fidei durante il processo al suo predecessore Giovanni XII, voluto da Ottone III e convocato a Roma il 6 novembre 963.
La sua carriera ecclesiastica , dopo aver raggiunto comunque gli onori di protoscrinario ( una sorta di giudice antesignano dell'inquisizione), fu accelerata in un battibaleno ... dopo la sua elezione avvenuta il 4 dicembre 963, Leone VIII fu insignito di tutti gli ordini, dovuti solo al suo ritiro in preghiera ed al : suddiacono, diacono, prete, vescovo e cardinale di Ostia (5 dicembre), per poter essere consacrato il 6 dicembre 963.
Ancora una volta l'imposizione imperiale sulla scelta papale diede origine a tumulti e stragi di ogni genere.
La nobiltà ed il popolo di fazione antimperiale mosse contro la sede di Castel Sant'Angelo per "disarcionare" il nuovo papa ma fu fermata sul ponte di Transtevere dall' esercito di Ottone III ed i massacri furono fermati solo grazie all'intercessione dello stesso pontefice.

Dopo qualche giorno di calma Ottone diresse il suo esercito verso Camerino, pensando di aver risolto la questione romana ma, i tumulti ricominciarono soprattutto in virtù dei massacri avvenuti il 3 gennaio 964.
Il pontefice fu costretto a quel punto a rimediare presso Camerino, la sua signoria e quindi Ottone stesso.
La scomparsa di Giovanni XII, il mancato riconoscimento di Leone VIII da parte della popolazione, un nuovo concilio che proclamò papa Benedetto V, non fece altro che far finire nel caos più totale il soglio di San Pietro.
L'esercito di Ottone III si spostò nuovamente e cinse d'assedio Roma.
Il concilio del 23 giugno 964 sancì comunque una nuova elezione, quella di Benedetto V.
Non è dato sapere come si risolsero fino in fondo e veramente le questioni di quell'assedio ne come il liber pontificalis ritenga ancor oggi di accreditare due pontefici in sovrapposizione, perchè Leone VIII regnò in vita così come Benedetto V.
Così come non è dato sapere dove sia stato sepolto il primo.