เมื่อเป็นพระคาร์ดินัลแล้ว ท่านได้ร่วมกับพระคาร์ดินัลอาวุโสต่อต้านลัทธิคอมมิวนิสต์ที่กำลังคุกคามยุโรปในเวลานั้นอย่างแข็งขัน ในปี ค.ศ.1976 ท่านได้รับเกียรติให้ไปเทศน์ให้พระสันตะปาปาในช่วงเทศกาลมหาพรต จากนั้นชื่อเสียงของท่านก็ค่อยๆ เป็นที่รู้จักของคนทั่วไป เป็นต้นในบรรดาพระคาร์ดินัลทั้งหลาย

เมื่อพระสันตะปาปายอห์น ปอล ที่ 1 สิ้นพระชนม์อย่างปัจจุบันทันด่วน บรรดาพระคาร์ดินัลต่างก็ถูกเรียกตัวกลับโรมอีกครั้งหลังจากที่เพิ่งเสร็จสิ้นการเลือกตั้งพระสันตะปาปาผ่านไปเพียงเดือนเดียว

ท่านคาโรลได้รับเลือกให้เป็นพระสันตะปาปาสืบต่อจากพระสันตะปาปา ยอห์น ปอล ที่ 1 ในวันที่ 16 ตุลาคม ค.ศ.1978 โดยใช้พระนามว่า พระสันตะปาปายอห์น ปอล ที่ 2 นับเป็นการสิ้นสุดยุคสมัยของพระสันตะปาปาชาวอิตาเลียนที่ครอบครองตำแหน่งนี้ตลอด 456 ปี นับจากสมัยปกครองของพระสันตะปาปาอาเดรียน ที่ 6 ซึ่งเป็นชาวดัทช์ (ค.ศ.1522 – 23)

พระสันตะปาปายอห์น ปอล ที่ 2 ได้ประกาศจุดยืนของพระองค์ทันทีหลังจากที่ได้รับตำแหน่งแล้วว่า จะทรงรับใช้พระศาสนจักรสากลกล่าวคือ รับใช้โลกทั้งมวล พระองค์จะรับใช้ความจริง ความยุติธรรม สันติ และความสมานสามัคคี ด้วยความตั้งใจเด็ดเดี่ยว เช่นนี้เองที่ทำให้พระสันตะปาปายอห์น ปอล ที่ 2 กลายเป็นพระสันตะปาปาที่เดินทางไปแพร่ธรรมและอภิบาลสัตบุรุษ มากกว่าพระสันตะปาปาองค์ในในอดีต การเยี่ยมเยียนประเทศต่างๆ ทั่วโลกได้เปิดหน้าประวัติศาสตร์ใหม่ในหลายแง่มุม แต่ละที่ที่พระองค์เสด็จไปนั้นประชาชน จะพากันมาร่วมมิสซาและต้อนรับพระองค์กันเนืองแน่น เช่น ที่มนิลา/ ฟิลิปปินส์ผู้คนรวมกันแล้วประมาณ 5 ล้านคนมาร่วมพิธีมิสซา ที่ฝรั่งเศสเมื่อมีการชุมนุมเยาวชนหนุ่มสาวจากทั่วโลกได้เดินทางไปร่วมพิธีพระสันตะปาปายอห์น ปอล ที่ 2 เป็นผู้มีบทบาทในการล่มสลายของกำแพงเบอร์ลิน และลัทธิคอมมิวนิสต์ในรัสเซีย พระองค์ได้ปฏิรูประบบบริหารคูเรียใหม่บางคนมองว่าพระองค์เป็นคนตรงและไม่ผ่อนปรนในเรื่องความเชื่อ กระนั้นก็ตามพระองค์ก็ส่งเสริมการเสวนาเพื่อความปรองดองระหว่างศาสนาและลัทธิความเชื่อต่างๆ เพื่อนำสันติภาพมาสู่โลก พระองค์ได้ออกสมณสาสน์ต่างๆ มากมาย เพื่อสอนความเชื่อแท้ของคาทอลิก เช่น Ut Unum Sint ค.ศ. 1995, Laborem Exercens ค.ศ. 1981, Centesimus Annus ค.ศ. 1991, Veriatis Splendor ค.ศ. 1993 และ Evangelium Vitae ค.ศ. 1995

พระสันตะปาปายอห์น ปอลที่ 2 จะทรงภาวนาร่วมกับผู้แทนศาสนาต่าง ๆ เพื่อสันติภาพของโลก ที่เมืองอัสซีซี ประเทศอิตาลี เป็นประจำทุกปี

สมัยปกครองของพระสันตะปาปายอห์น ปอล ที่ 2 นั้นทรงต้องเผชิญกับปัญหาทางศีลธรรมมากมายพระองค์ถูกลอบทำร้ายจนเกือบจะเอาชีวิตไม่รอดโดยน้ำมือของมือปืนที่ชื่อ อาลี อัคกา ที่หน้าพระมหาวิหารนักบุญเปโตร เมื่อหายเป็นปรกติดีแล้ว พระองค์ก็เริ่มงานต่อต้านลัทธิคอมมิวนิสต์ทันทีอย่างลับๆ จนเป็นที่ทราบกันดีว่าภายหลังลัทธิคอมมิวนิสต์ก็ได้ล่มสลายลงในปี ค.ศ.1989 ทางด้านการเมืองและการต่างประเทศนั้นพระองค์กว้างขวางมาก ได้มีการเปิดสถานทูตและเจริญไมตรีกับหลายๆ ประเทศ เช่น อิสราเอล เม็กซิโก คิวบา ซึ่งในต้นปี ค.ศ.1998 พระองค์ได้ไปเยือนประเทศสังคมนิยมแห่งนี้ ทำให้ชาวโลกได้เห็นคิวบาเปิดประเทศอีกครั้ง

พระองค์เป็นนักเขียนและกวีที่ลึกซึ้ง ผลงานเขียนของพระองค์เป็นหนังสือขายดีระดับโลก เป็นต้นหนังสือเรื่องความรักและความรับผิดชอบ และหนังสือเรื่องข้ามผ่านธรณีประตูแห่งความหวัง ในปี ค.ศ.1994 พระองค์เข้ารับการผ่าตัดกระดูกสะโพกใหม่เนื่องจากหกล้ม ในปี ค.ศ.1995 หนังสืออนิตยสารไทม์ได้ยกย่องให้พระองค์เป็นบุรุษแห่งปี คติพจน์ประจำใจของพระองค์คือ “ทุกอย่างเพื่อพระองค์” พระสันตะปาปายอห์น ปอล ที่ 2 ได้เดินเข้าสู่สารบบพระสันตะปาปาที่นั่งบัลลังก์ของนักบุญเปโตรนานที่สุดองค์หนึ่ง ปัจจุบันพระองค์อยู่ในตำแหน่งครอบ 24 ปีบริบูรณ์ ( 2002 ) ในสมัยของพระองค์นี้มีบุคคลที่สำคัญหลายคนได้จากไปเป็นต้นคุณแม่ - เทเรซา แห่งกัลกัตตา ที่สิ้นชีวิตอย่างสงบในปลายปี ค.ศ.1997

พระสันตะปาปายอห์น ปอล ที่ 2 มีผู้ช่วยที่สำคัญคือ พระคาร์ดินัลรัสซิงเกอร์ ซึ่งเป็นชาวเยอรมันและทำหน้าที่หัวหน้ากระทรวงความเชื่อ ในขณะที่สุขภาพของพระสันตะปาปา ยอห์น ปอล ที่ 2 ไม่ค่อยดีนักในช่วงหลังๆ เป็นต้นปัญหาของโรคพาคินสัน บทบาทของพระคาร์ดินัลรัสซิงเจอร์ก็ยิ่งเด่นมากยิ่งขึ้นในสายตาของคนทั่วไป กระนั้นก็ตามเราทราบว่า พระสันตะปาปายอห์น ปอล ที่ 2 พยายามทำให้สันตะสำนักเป็นแหล่งรวมของพระคาร์ดินัลจากชาติต่างๆ มากขึ้น เพื่อทำให้พระศาสนจักรมีภาพลักษณ์เป็นสากลมากขึ้น ดังที่ทรงได้ตั้งปณิธาณไว้นั่นเอง

จากการประชุมคณะพระคาร์ดินัล (Consistory) ในวันที่ 21 กุมภาพันธ์ ค.ศ.2001 พระสันตะปาปายอห์น ปอล ที่ 2 ทรงแต่งตั้งพระคาร์ดินัลเพิ่มขึ้นเป็นจำนวน 185 องค์ (สูงกว่าข้อกำหนดที่พระสันตะปาปาเปาโล ที่ 6 ได้ออกกฎเกณฑ์ไว้ในปี ค.ศ.1973 กำหนดจำนวนพระคาร์ดินัลที่พระสันตะปาปาแต่งตั้งใหม่ รวมกับพระคาร์ดินัลที่มีอยู่เดิมจะต้องมีจำนวนสูงสุดไม่เกิน 120 องค์) โดยเพียง 135 องค์มีสิทธิเลือก และได้รับเลือกให้เป็นพระสันตะปาปา นอกนั้นล้วนมีอายุเกินกฎที่วางไว้คือ เกิน 80 ปี

พระคาร์ดินัลไม่เกิ้ล มีชัย กิจบุญชู ประมุขพระศาสนจักรคาทอลิกในประเทศไทยได้รับสถาปนาเป็นพระคาร์ดินัลเมื่อเดือนมกราคม ค.ศ.1983 และเข้ารับพิธีสถาปนาที่กรุงโรมในวันที่ 2 กุมภาพันธ์ ค.ศ.1983 โดยพระสันตะปาปายอห์น ปอล ที่ 2 นี้ท่านก็มีสิทธิเลือกและได้รับเลือกให้ดำรงตำแหน่งพระสันตะปาปาเช่นกัน

พระสันตะปาปายอห์น ปอล ที่ 2 เสด็จเยือนประเทศไทย เมื่อวันที่ 10-11 พฤษภาคม ค.ศ. 1984