一年後，教宗表達希望中國原諒教會過去錯誤的願望，並促請北京當局與梵蒂岡建立直接關係。中國回應稱中梵關係可以正常化，不過梵蒂岡必須同意「不以宗教問題為藉口干涉中國內政」。
【後若望保祿二世時代的轉變】
2005年，在位26年多的若望保祿二世逝世，本篤十六世（Pope Benedict XVI）繼任，次年擢升時常公開批評中共政權的香港教區主教陳日君為享有教宗選舉投票權的樞機，天主教愛國會副主席劉柏年公開質疑梵蒂岡試圖重推1989年推翻波蘭共產黨的策略。
2007年5月，本篤十六世對中國大陸信眾發表牧函，指出官方天主教愛國會奉行的「三自」原則「與天主教的教義無法調和」，梵蒂岡要求有任命主教的自由，但教宗相信能夠同中國政府達成協議。北京外交部回應中國願繼續與梵蒂岡對話，但梵蒂岡必須與台灣斷交；劉柏年認為牧函表達了對中國天主教徒的愛和關心，希望中梵能早日建交。
但在此後一段時間裏，北京與教廷仍不時因主教任命問題爭執，中國執法部門抓捕地下教會神職人員與信眾事件也時有發生。
本篤十六世於2013年辭職退休，與利瑪竇、湯若望、南懷仁三位知名赴華傳教士一樣出身於耶穌會（Societas Iesu/Society of Jesus）的方濟各3月13日當選繼任。翌日，新任中共中央總書記習近平就任中國國家主席。方濟各後來透露他當時已曾與習近平互通書信，他又在2014年8月前赴韓國訪問時成為首位飛越中國領空的教宗。中梵關係出現了明顯好轉。
方濟各當時在返航的專機上對記者說：「你問我想去中國嗎？肯定的，明天就想去。」
方濟各至今仍未踏上中國領土，也沒曾涉足台灣，但經過多年秘密談判後，2018年9月的一紙臨時性主教任命協議，成為迄今梵蒂岡與北京走得最近的一步。
中梵關係換了邊，中國教徒處境就能改善嗎？
隨著「三自」體制建立，效忠於梵蒂岡教宗而非中共體制的中國羅馬天主教徒轉到地下活動。1980年代政府允許宗教活動恢復後，許多教徒仍只能在地下活動。
要說黎培里總主教當年留守南京試圖接觸中共毛澤東政權，是為了保護大陸信眾與神職人員，那如今若能實現中梵建交，對不被中國政府認可的地下教會、家庭教會成員來說，能有多大好處？
主教任命臨時協議問世時，香港教區榮休主教陳日君樞機便曾公開指責教廷「送羊入狼口」。他在2018年11月接受BBC第四廣播電台（BBC Radio 4）採訪時說：「訂立了這份協議，梵蒂岡是在幫助他們（中國政府）打壓地下教會。」
