Non si conoscono le origini della famiglia, probabilmente greca (nda: anastasìs significa resurrezione in greco) stabilitasi a Roma. Anastasio II fu consacrato papa il 24 novembre del 496.
Così come non risultano molte altre notizie sul suo pontificato, del resto di breve durata se non quelle nefaste per aver tentato una sorta di riconciliazione con gli eretici monofistici con la riammissione alle sue funzioni il diacono di Tessalonico Fotino, fervido seguace dell'idea monofisita.
La tradizione volle che questo papa fosse così impopolare, diversamente dal suo predecessore che fosse stato colpito dalla "maledizione divina" "nutu divinu percussus est"
Lo stesso Dante Alighieri, molti secoli dopo, finì per collocarlo nel canto XI, 6-9 dell' Inferno della Divina Commedia:

" ci racostammo, in dietro, ad un coperchio
d'un grand'avello, ov'io vidi una scritta
che dice: "Anastasio papa guardo,
lo qual trasse Fotin della via dritta".

Sempre secondo la tradizione la sua morte sarebbe stata simile a quella di Ario il quale, mentre era intento alle sue funzioni corporali e fisiologiche perse tutte le viscere che si sparsero sul terreno.
Questo sarebbe accaduto il 19 novembre del 498. Le sue spoglie furono sepolte sul sagrato di San Pietro ma il suo nome non comparì mai nè sul martirologio nè sul calendario universale.