Seiring dengan berdiri dan berkembangnya Gereja Keuskupan Agung Jakarta, pendidikan calon imam melalui seminari tinggi KAJ juga mengalami perkembangan secara perlahan. Di masa awal, Gereja KAJ belum secara signifikan dipikirkan pendidikan calon imam di Jakarta. Mayoritas umat yang berasal dari Belanda membuat Gereja KAJ banyak dilayani oleh para imam dari Belanda. Hal tersebut menegaskan bahwa belum terlalu dibutuhkannya pendidikan calon imam di Jakarta, meskipun hal tersebut sudah dicita-citakan oleh Mgr. A. Djajasepoetra yang melayani Gereja KAJ pada tahun 1953-1970. Adapun pada masa tersebut, pendidikan calon imam cenderung berkembang pesat di luar Batavia. Salah satunya adalah di Jawa Tengah, yakni Seminari Tinggi di Yogyakarta dan Seminari Menengah Mertoyudan.
Pada tahun 1960-an, pendidikan calon imam barulah menjadi konsentrasi bagi Gereja KAJ. Salah satu pemicunya adalah konfrontasi sengit antara Indonesia dan Belanda menyangkut Irian Barat (1956-1958). Konfrontasi itu menyebabkan eksodus besar-besaran orang Belanda dan termasuk juga para imam Belanda yang banyak melayani di Gereja KAJ. Oleh karena itu, memiliki seminari tinggi KAJ sebagai wadah pendidikan calon imam di KAJ dirasa penting. Adapun di era tahun 1960-an itu belum ada instansi pendidikan calon imam di KAJ. Otomatis di era tersebut, para calon imam KAJ menempuh pendidikan filsafat dan Teologi secara penuh di Keuskupan Agung Semarang (fakultas Teologi Wedhabhakti).
Proses ini terus berlangsung sampai pada berdirinya STF Driyarkara di Jakarta. Dengan didirikannya STF Driyarkara pada tahun 1969, para calon imam KAJ diminta untuk mengikuti pendidikan dalam bidang filsafat sambil mengenal dinamika kota Jakarta. Hal ini menjadi cikal bakal berdirinya Seminari Tinggi KAJ sebagai instansi pendidikan calon imam. Sejalan dengan berdirinya STF Driyarkara, mulai dipikirkan juga tentang rumah pembinaan bagi para calon imam KAJ. Rumah pembinaan itu mengalami beberapa kali perpindahan mulai dari tinggal di asrama Kolese Kanisius, rumah di dekat STF Driyarkara, maupun di Biara para bruder Budi Mulia. Sampai pada akhirnya didirikan Wisma Murdai di Cempaka Putih pada tahun 1980. Wisma Murdai ini berfungsi sebagai tempat tinggal para frater filosofan bersama Romo Alex Dirdjo SJ sebagai pendamping para frater.
Pada tahun 1982 mulai dicetuskan untuk mendirikan semacam Tahun Orientasi Rohani bagi para frater yang baru bergabung. Tahun Orientasi Rohani dicetuskan untuk menjadi warna dasar bagi para calon imam. Sampai pada akhirnya, Wisma Murdai diperuntukkan bagi para frater Tahun Orientasi Rohani. Hal tersebut sejalan dengan pembangunan Wisma Cempaka Putih Timur (CPT) tahun 1982. Wisma CPT ini menjadi tempat bagi para frater filosofan.
Seiring dengan peningkatan kuantitas para calon imam KAJ, Wisma Murdai dinilai lebih dibutuhkan bagi para frater filosofan, karena lokasinya yang dekat dengan STF Driyarkara. Oleh karena itu mulai dipikirkan tempat yang baru bagi para frater TOR sampai pada akhirnya didirikanlah Wisma Puruhita, yang terletak belakang Wisma Samadi, Klender. Dengan demikian para frater TOR menempati Wisma Puruhita, sedangkan para frater filosofan menempati Wisma Murdai dan Wisma CPT, dan para frater Teologan tetap menempuh masa studi di Fakultas Teologi Wedabhakti, Yogyakarta.
Jumlah frater terus meningkat baik jenjang TOR maupun filosofan, sehingga Wisma CPT memerlukan renovasi. Pihak Keuskupan membeli sebuah rumah di Jl. Cempaka Raya No B.32, yang kemudian dikenal dengan Wisma Cempaka Putih Raya (Cera). Wisma Cera mulai dihuni pada Agustus 2001 untuk para teologan dari kalangan “panggilan dewasa” yang menempuh tahap akhir studi teologi di STF Driyarkara, Jakarta. Namun mulai tahun 2008, wisma ini sudah tidak ditinggali lagi oleh para frater karena dirasa lingkungannya tidak kondusif lagi sebagai rumah mahasiswa. Alasan lainnya adalah jumlah frater teologan “panggilan dewasa” semakin sedikit dan begitu pula jumlah frater filosofan di Wisma CPT.
Seperti sudah ditulis di atas, Wisma CPT memerlukan renovasi dan perluasan bangunan pada tahun 2004. Wisma CPT disatukan dengan bangunan baru di sampingnya, setelah merenovasi rumah tetangga yang sudah dibeli oleh pihak Keuskupan beberapa tahun sebelumnya dan sempat ditinggali oleh para frater selama tiga tahun (2001-2004). Selama renovasi, para frater filosofan tingkat I-III tinggal sementara di Wisma Samadi, sedangkan frater filosofan tingkat IV menempati Wisma Puruhita. Para frater TOR angkatan 2004 (hanya angkatan ini) dipindahkan ke Wisma Cera dan tinggal bersama para frater teologan hingga renovasi selesai.
Pada waktu itu, Seminari Tinggi KAJ belum memiliki nama pelindung. Berkenaan dengan itu mulai diusulkan banyak nama santo. Paus Yohanes Paulus II yang waktu itu masih hidup juga diusulkan menjadi nama pelindung. Namun muncul sedikit keraguan untuk menjadikan namanya sebagai pelindung Seminari Tinggi KAJ, karena beliau masih hidup. Pada tanggal 2 April 2005, Paus Yohanes Paulus II meninggal dunia. Pada tahun yang sama itu pula diputuskan bahwa nama Yohanes Paulus II menjadi pelindung Seminari Tinggi KAJ. Pertimbangannya kala itu adalah bahwa Yohanes Paulus II merupakan seorang pemimpin umat Kristiani yang sangat berpengaruh dan dicintai oleh Gereja dan dunia pada abad ke-20, seorang imam diosesan yang dekat dengan semua orang, terkenal karena kesucian, keterbukaan dan kedalaman spiritualnya, serta kecerdasannya dalam bidang filsafat dan teologi.
Setelah selesai direnovasi, bertepatan dengan pemberkatan Wisma Cempaka Putih Timur, pada tanggal 19 September 2005, oleh Uskup Keuskupan Agung Jakarta kala itu, Julius Kardinal Darmaatmadja SJ, Seminari Tinggi KAJ secara resmi menggunakan nama Yohanes Paulus II sebagai pelindung. Sejalan dengan proses beatifikasi dari Tahta Suci, pada saat Paus Yohanes Paulus II dianugerahi gelar Beato, Seminari Tinggi mempunyai nama Seminari Tinggi Beato Yohanes Paulus II, sampai akhirnya pada tanggal 27 April 2014, Beato Yohanes Paulus II dikanonisasi oleh Paus Fransiskus. Pada saat yang sama itu pula, Seminari Tinggi mempunyai nama Seminari Tinggi St. Yohanes Paulus II – Keuskupan Agung Jakarta.
