Juliusz II urodził się 5 grudnia 1443 r. w Albisoli koło Savony jako Gulliano della Rovere; był bratankiem generała zakonu franciszkanów Francesco della Rovere, późniejszego papieża Sykstusa IV.

Sam też wstąpił do zakonu franciszkanów, jednak nie złożył ślubów zakonnych. Studiował prawo w Perugii. Kiedy stryj został papieżem zaczął szybko awansować w hierarchii kościelnej. W 1471 r. został arcybiskupem w Carpentras koło Awinionu, a następnie kardynałem-prezbiterem. W 1474 r. otrzymał funkcję legata w Awinionie i urząd protektora zakonu św. Franciszka.

Dwadzieścia lat po śmierci stryja - w 1504 r. - został wybrany na papieża. Marzył o zjednoczeniu Italii pod swoim sztandarem. Dla obrony papiestwa sprowadził do Watykanu 150 szwajcarskich najemników, którzy utworzyli Gwardię Szwajcarską. Prowadził wojny z Perugią i Wenecją, rozprawił się ze zbuntowanymi kardynałami Pizy i Mediolanu. Osobiście prowadził kampanie wojenne.

Jednocześnie Juliusz II nie zaniedbywał obowiązków zwierzchnika Kościoła. W 1505 r. wydał bullę potępiającą i zakazującą stosowanie symonii, czyli kupowania urzędów kościelnych i handlowania odpustami, a w 1511 r. zwołał sobór lateraneński.

Prowadził liczne prace budowlane na terenie Rzymu. W miejscu grożącej zawaleniem bazyliki konstantyńskiej rozpoczął budowę nowej bazyliki św. Piotra. Zadanie to powierzył architektowi i malarzowi Donato Bramantemu. Prace rozpoczęto w 1506 r. Trwały 100 lat; wraz z kolejnymi budowniczymi, zmieniały się koncepcje i plany.

W 1505 r. zachwycony rzeźbami Michała Anioła Juliusz II zlecił mu budowę swego pomnika grobowego; prace naznaczone starciami z papieżem i długimi przerwami trwały przez kilkadziesiąt lat (znane są co najmniej cztery monumentalne projekty), nie zostały ukończone. Głównymi wykonanymi rzeźbiarskimi fragmentami są figura siedzącego Mojżesza datowana na lata 1515-16 (od 1545 r. stanowią element nagrobka w kościele św. Piotra w Okowach w Rzymie) oraz dwa posągi tzw. niewolników (znajdujące się w Luwrze).

W trakcie jednej z przerw w pracach nad nagrobkiem Juliusz II zlecił Michałowi Aniołowi wykonania dekoracji sklepienia Kaplicy Sykstyńskiej, czyli kaplicy papieskiej w Pałacu Watykańskim. Według Giorgio Vasariego, Michał Anioł bronił się przed tym zleceniem, tłumacząc się tym, że nie jest malarzem (za zleceniem mieli podobno miał stać zazdrosny o łaski papieża Bramante). Juliusz II nie ustąpił. Zgodził się jednak na zmianę tematu fresku; zamiast 12 apostołów - jak chciał papież - powstało dziewięć scen ukazujących stworzenie świata (najsłynniejsza z nich to stworzenie Adama). Prace nad sklepieniem trwały cztery lata. Podczas nich miało dość do kilku scysji pomiędzy zniecierpliwionym papieżem a artystą. Papież znany z gwałtownego charakteru miał według przekazów grozić Michałowi Aniołowi, że zrzuci go z rusztowań pod sklepieniem.

We fragmencie fresku przedstawiającego trzeci i czwarty dzień stworzenia artysta miał nadać Stwórcy rysy twarzy papieża Juliusza II. Najsłynniejszym jego wizerunkiem jest portret namalowany przez Rafaela w latach 1511-1512 (w zbiorach National Gallery w Londynie); stał się on na długo wzorem portretu papieskiego.

Na zlecenie Juliusza II pracował też specjalnie ściągnięty przez niego do Rzymu Rafael. Papież nie chciał bowiem mieszkać w apartamentach po swoim poprzedniku Aleksandrze VI Borgii. Wybrał inne miejsce w Pałacu Watykańskim. Do dekoracji czterech połączonych z sobą pomieszczeń w północnym skrzydle wybrał właśnie Rafaela. Apartamenty te ozdobione przez malarza freskami (m.in. Szkoła Ateńska, Parnas) nazywane są dziś Stanzami Rafaela, od stanze, czyli pokoje.

Juliusz II zlecił też Rafaelowi w 1512 r. namalowanie obrazu do kościoła św. Sykstusa w Piacenzie, przedstawiającego objawienie Matki Boskiej z nowo narodzonym Zbawicielem. Znany jest on powszechnie jako Madonna Sykstyńska (znajduje się w zbiorach Galerii Obrazów w Dreźnie; kupił go w XVIII w. od benedyktynów August III, elektor saski i król Polski).

To nie jedyne zasługi Juliusza II na polu kultury. W 1506 r. na rzymskim wzgórzu Oppio została o odkryta starożytna rzeźba przedstawiająca Laokoona i jego synów walczących z wężami morskimi (tzw. Grupa Laokoona). Papież kazał wystawić ją w Watykanie na widok publiczny; uważane jest to za początek przyszłych Muzeów Watykańskich.

Juliusz II zmarł w 1513 roku w Rzymie w wieku 69 lat. Pochowany został w podziemiach Bazyliki św. Piotra - Grotach Watykańskich, w skromnym grobowcu swego stryja Sykstusa IV.

Miał jedno nieślubne dziecko - córkę Felice z Lukrezią Normanni.