Od października 1962 Karol Wojtyła bierze aktywny udział w pracach II Soboru Watykańskiego. Uczestniczy we wszystkich czterech sesjach, m.in. jako członek bardzo ważnej komisji soborowej opracowującej i ostatecznie redagującej tzw. "schemat XIII", czyli podstawy przyszłej konstytucji o Kościele w świecie współczesnym.
W swoich przemówieniach porusza m.in. sprawy apostolstwa świeckich, godności osoby ludzkiej, aktywności ludzkiej w świecie, wolności religijnej i ekumenizmu. Swoją aktywnością wzbudza uznanie reformatorsko nastawionych teologów zachodnich, oraz papieża Pawła VI. W grudniu 1963 pielgrzymuje do Ziemi Świętej, wraz z kilkudziesięcioma innymi uczestnikami Soboru. W liście do księży archidiecezji krakowskiej, opisując tę podróż, Wojtyła nazywa prawosławnych schizmatykami. Ale widać w jego słowach sympatię do judaizmu.
Z nominacji papieża Pawła VI zostaje członkiem Komisji Soborowej dla Apostolstwa Świeckiego. Na nadzwyczajnym zgromadzeniu Synodu Biskupów w październiku 1969 roku przedstawia projekt dokumentu "II Nadzwyczajny Synod Biskupów o sobie", określanego powszechnie jako "dokument Wojtyły". W marcu 1976 roku, zaproszony specjalnie przez papieża, prowadzi w Watykanie doroczne rekolekcje. Był jednym z redaktorów - być może najodważniejszego w powojennej historii Episkopatu Polski - dokumentu "Orędzia biskupów polskich do ich niemieckich braci w Chrystusowym urzędzie pasterskim" w 1965 roku. Historyczne słowa: "Przebaczamy i prosimy o przebaczenie" wywołały burzę polityczną i zamęt w głowach wiernych. W lutym 1969 odwiedza obie czynne synagogi krakowskie.
16 października 1978 roku 111-osobowe Kolegium Kardynalskie wybrało arcybiskupa i metropolitę Krakowa, 58-letniego kardynała Karola Wojtyłę na papieża - 264. z kolei Zwierzchnika Kościoła Katolickiego. Przybrał on imię Jan Paweł II. Wybór krakowskiego metropolity na papieża był zaskoczeniem dla całego świata, gdyż po raz pierwszy od 456 lat na tronie Stolicy Apostolskiej zasiadł biskup nie-Włoch. Zaskoczeniem było także to, że nowy papież pochodził ze słowiańskiego kraju, który w tamtym czasie należał do bloku sowieckiego. Jan Paweł II był człowiekiem o głębokiej maryjnej pobożności, co znalazło swój wyraz w papieskim herbie z literą M i łacińskim zawołaniem, w którym zwraca się do Matki Boskiej -Totus Tuus (Cały Twój).