Leon II urodził się na Sycylii i był wykształconym człowiekiem, władającym zarówno greką, jak i łaciną. Został wybrany na papieża w grudniu 681 roku, jednak jego konsekracja nastąpiła dopiero po ośmiu miesiącach, gdyż cesarz bizantyjski Konstantyn IV oczekiwał potwierdzenia, że Leon II zaakceptuje uchwały III Soboru Konstantynopolitańskiego. Konsekracji Leona II dokonali trzej biskupi: Andrzej z Ostii, Jan z Porto oraz Piacentina z Velletri. Jako papież zatwierdził on autorytetem św. Piotra postanowienia soboru, które potępiały monoteletyzm oraz papieża Honoriusza I. Za jego pontyfikatu cesarz Konstantyn IV wycofał dekret przyznający autonomię Rawennie, uzgadniając, że biskupi raweńscy będą konsekrowani przez papieża. Leon II przeprowadził także restaurację kościoła św. Bibiany na Eskwilinie, do którego przeniósł relikwie męczenników uprzednio pochowanych przy Via Portuense.