เป็นทราบกันว่า ก่อนที่จะขึ้นครองราชย์ พระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัว ทรงผนวชเป็นพระภิกษุสงฆ์อยู่ยาวนานถึง ๒๗ ปี แต่ฝรั่งคนแรกที่ใกล้ชิดพระองค์ ทรงชอบพอรักใคร่ และมีผลต่ออย่างสำคัญต่อการบริหารราชการแผ่นดินในเวลาต่อมา กลับเป็นบาทหลวงในนิกายโรมันคาทอลิก ชาวฝรั่งเศส เจ้าอธิการวัดคอนเซปซิออง หรือวัดบ้านเขมร ริมแม่น้ำเจ้าพระยา สามเสน ผู้มีนามว่า สังฆราช ยวง บับติสต์ ปาลเลอกัวซ์
ห้าพรรษาแรกที่ทรงผนวช เจ้าฟ้ามงกุฎฯ หรือที่เรียกกันว่า “ทูลกระหม่อมพระ” จำพรรษาอยู่ที่วัดมหาธาตุ เมื่อได้เปรียญ ๙ ประโยคแล้ว จึงย้ายมาจำพรรษาที่วัดสมอราย หรือวัดราชาธิวาสในปัจจุบันอีก ๗ พรรษา ก่อนจะเสด็จไปครองวัดบวรนิเวศ
วัดสมอรายนั้นอยู่ติดกับวัดคอนเซปซิออง ซึ่งมีสังฆราชปาลเลอกัวซ์เป็นเจ้าอธิการ มีเพียงคลองเล็กๆคั่น มีสะพานไม้ให้เดินไปมาหากันได้สะดวก สังฆราชปาลเลอกัวซ์นั้นมักจะข้ามมาทูลถามความรู้เกี่ยวกับภาษาและขนบธรรมเนียมกับทูลกระหม่อมพระเป็นประจำ ส่วนทูลกระหม่อมพระก็ขอให้สังฆราชคาทอลิกสอนภาษาลาตินและภาษาอังกฤษถวาย เป็นการแลกเปลี่ยนความรู้กันและกัน
ท่านเจษฎาจารย์ ฟ. ฮีแลร์ แห่งโรงเรียนอัสสัมชัญ ครูฝรั่งผู้แต่งตำราเรียนภาษาไทย ได้เขียนไว้ในหนังสือ “ดรุณศึกษา” ว่า
“...ทูลกระหม่อมพระที่วัดสมอราย และเจ้าคุณสังฆราชยวงที่วัดบ้านเขมร ก็ไปมาหาสู่จนคุ้นเคยชอบพอรักใคร่สนิทสนม ต่างชักชวนแลกเปลี่ยนภาษาและวิชาความรู้แก่กันและกัน เป็นการเอื้อเฟื้ออย่างน่าชม ข้างทูลกระหม่อมพระทรงสอนภาษาไทย ภาษาบาลี ให้ท่านสังฆราชยวง และส่วนสังฆราชยวงก็ทูลถวายพระอักษรภาษาอังกฤษ ภาษาละติน แก่ทูลกระหม่อมพระ เป็นประโยชน์ด้วยกันทั้งสองฝ่าย ฝ่ายท่านสังฆราชก็มีความรู้ขนบธรรมเนียมข้างบ้านเมืองไทยได้มาก ท่านจึงได้เรียบเรียงหนังสือฝรั่งว่าด้วยเมืองไทยหลายเล่ม ชาวต่างประเทศจึงได้ค่อยรู้ความเป็นไปที่แท้จริงของเมืองไทยเพราะหนังสือเรื่องเมืองไทยที่ท่านสังฆราชยวงได้เรียบเรียงในภาษาต่างประเทศนั้น ท่านสังฆราชยวงจึงเป็นเสมือนคนนำคุณความดีของเมืองไทยไปประกาศให้แพร่หลายในนานาประเทศ และนำเอาคุณความดีแห่งนานาประเทศมาเผยแพร่ให้รู้แพร่หลายในเมืองไทย...เปรียบประดุจดอกไม้ที่มีกลิ่นหอม จะฟุ้งขจรไปได้ไกลก็เพราะอาศัยถูกลมพัดเอากลิ่นเกสรไปในอากาศฉะนั้น หาไม่ดอกไม้นั้นก็จะไม่มีใครรู้ว่ามีกลิ่นหอม นอกจากผู้ที่เผอิญมาพบเห็นฉะนั้น...”
เมื่อทูลกระหม่อมพระขึ้นครองราชย์เป็นรัชกาลที่ ๔ ในปี ๒๓๙๔ แล้ว สังฆราชยวง บับติสต์ ปาลเลอกัวซ์ก็ยังเข้าเฝ้าอยู่เป็นประจำ และนอกจากจะเขียนเรื่องเมืองไทยไปเผยแพร่ในยุโรปซึ่ง สันต์ ท. โกมลบุตร ได้แปลหนังสือที่สังฆราชยวงเขียนมาเป็นภาษาไทยในชื่อ “เล่าเรื่องเมืองไทย” แล้ว ยังได้เขียนพจนานุกรม ๔ ภาษา มี ไทย ฝรั่งเศส อังกฤษ ละติน ขึ้นเป็นเล่มแรกในชื่อ “สัพพะจนะพาสาไท” พิมพ์ที่ปารีสในปี ๒๓๙๗ โดยได้รับทุนจากรัฐบาลฝรั่งเศส
ในปี ๒๓๙๒ ได้เกิดอหิตกโรค หรือที่เรียกว่า “โรคห่า” ระบาดในบางกอก ทำให้ผู้คนล้มตายเป็นอันมาก ทูลกระหม่อมพระได้ทรงบำเพ็ญพระราชกุศลปล่อยสัตว์ ทั้งป่าวประกาศให้ราษฎรทำบุญให้ทานปล่อยสัตว์ที่ถูกกักขังอีกด้วย ผู้คนทุกชาติทุกภาษาในบางกอกก็ทำตาม นอกจากบาทหลวงฝรั่งเศส ๘ คนไม่เห็นด้วย และอ้างว่าคนที่ปล่อยสัตว์ตามคติความเชื่อของศาสนาพุทธ เป็นการขัดต่อศาสนาคริสต์ จึงไม่ยอมทำตาม ทั้งยังห้ามคนที่เข้ารีตไม่ให้ทำด้วย สังฆราชปาลเลอกัวซ์ซึ่งเป็นผู้ปกครองคริสตจักรคาทอลิกจึงประกาศว่า การปล่อยสัตว์มิได้ผิดหลักศาสนาคริสต์แต่อย่างใด พวกบาทหลวงทั้ง ๘ นั้นถือเกินไปหรือเปล่า ทั้งยังให้คนนำเป็ด ไก่ ห่าน ไปถวายพระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัวให้ท่านปล่อยด้วย และให้พวกที่เข้ารีตปล่อยสัตว์ที่กักขังไว้ทุกคน ทำให้บาทหลวงทั้ง ๘ ไม่พอใจ พากันหนีไปอยู่สิงคโปร์
ในปี ๒๓๙๕ สังฆราชปาลเลอกัวซ์ได้เข้าเฝ้าทูลลากลับไปเยี่ยมบ้านเกิด และกราบทูลว่าจะถือโอกาสไปเฝ้าพระสันตปาปาที่วาติกันด้วย พระบาทสมเด็จพระจอมเกล้าฯจึงรับสั่งว่า ในสมัยกรุงศรีอยุธยา พระสัตปาปาก็เคยถวายสมณสาส์นสมเด็จพระนารายณ์มหาราช ฝากฝังศาสนาโรมันคาทอริค จึงขอฝากพระราชหัตถเลขาเป็นภาษาอังกฤษไปทูลพระสันตปาปาปิอุสที่ ๙ ด้วย
จากนั้นอีกปีกว่า สังฆราชปาลเลอกัวซ์ก็ได้นำสาส์นของพระสันตะปาปาที่เขียนเป็นภาษาละติน มีคำแปลเป็นภาษาอังกฤษ ใส่กรอบปิดทอง มีลายประดับด้วยกรวดสีสวยงาม ส่งมาเป็นสมณบรรณาการ
นอกจากนี้ในปี ๒๔๐๓ พระบาทสมเด็จพระจอมเกล้าฯได้ทรงส่งคณะทูตไปเจริญสัมพันธไมตรีกับจักรพรรดินโปเลียนที่ ๓ และได้ทรงมอบพระราชสาส์นอีกฉบับหนึ่งไปถวายพระสันตะปาปาด้วย ในพระราชสาส์นฉบับนี้ พระบาทสมเด็จพระจอมเกล้าฯทรงพระราชหัตถเลขาในตอนท้ายของพระราชสาส์นว่า
“...กรุงสยามขอยืนยันความจริงใจมาว่า เมื่อท่านผู้บริสุทธิ์ได้มีอิสริยยศอย่างสูงในทางธรรม มหาชนเป็นอันมากได้ยกย่องให้เป็นผู้ใหญ่ เป็นที่เคารพนบนอบของมหาชนเป็นอันมาก แม้นเป็นถึงพระเจ้าแผ่นดินใหญ่ๆในยุโรปหลายบ้านหลายเมืองนั้นแล้ว ท่านผู้บริสุทธิ์มีน้ำใจเมตตาอารีแก่ชนทั้งปวงในโลก ไม่ว่าใครจะเชื่อศาสนาคริสต์ก็ดี ไม่เชื่อก็ดี ท่านมีเมตตาอารีเผื่อแผ่ไปหมดดังนี้นั้น กรุงสยามเห็นว่าความชอบความดี สมควรสถานที่เป็นผู้ใหญ่ที่ยิ่งอยู่แล้ว...”
คณะทูตชุดนี้ไม่มีล่ามภาษาฝรั่งเศสไปด้วย สังฆราชปาลเลอกัวซ์จึงส่งบาทหลวงลูวิศซึ่งอยู่บางกอกมานานกว่า ๑๕ ปี ไปเป็นล่ามให้คณะทูตด้วย
เมื่อสังฆราชยวง บับติสต์ ปาลเลอกัวซ์มรณภาพขณะย้ายไปเป็นเจ้าอธิการวัดอัสสัมชัญ บางรัก ในเดือนมิถุนายน ๒๔๐๕ ชาวคริสตังจะแห่ศพทางน้ำมาฝังที่วัดบ้านเขมร แต่ก็ทำไม่ได้เพราะติดขัดที่มีข้อห้ามมิให้ใครนำศพผ่านหน้าตำหนักแพ พระบาทสมเด็จพระจอมเกล้าฯทรงทราบจึงมีพระบรมราชานุญาต ทั้งยังทรงพระกรุณาพระราชทานหีบทองทึบ วอรับศพ กลองชนะ จ่าปี่จ่ากลองเครื่องประโคมศพ กับเรือศพและเรือขบวนแห่ของหลวงหลายลำ ช่วยนำศพไปอย่างสมพระเกียรติ
เมื่อขบวนเรือศพมาถึงหน้าตำหนักแพ พระบาทสมเด็จพระจอมเกล้าฯซึ่งประทับอยู่ในเรือกลไฟพระที่นั่ง ก็รับสั่งให้ลดธงเรือพระที่นั่งลง และพระองค์ทรงเปิดพระมาลาก้มพระเศียรลงคำนับศพ ทั้งยังพระราชทานเทียนขี้ผึ้งกับเงิน ๒๐๐ เฟื้อง ให้เป็นเกียรติยศเทียบเท่าข้าราชการชั้นผู้ใหญ่ และพระราชทานเงินแจกแก่คนที่มาในขบวนแห่ศพแทนเจ้าภาพด้วย
อนึ่ง เรือพระที่นั่งตามป้อม รับสั่งให้ลดธงลงครึ่งเสา และให้ยิงปืนใหญ่หลายนัด เป็นการแสดงความอาลัยของพระองค์ต่อสังฆราชปาลเลอกัวซ์ และโปรดเกล้าฯให้พระเจ้าลูกยาเธอ กรมหมื่นมเหศวร เชิญเครื่องขมาศพเสด็จไปฝังแทนพระองค์ด้วย
นี่ก็เป็นความสัมพันธ์ของพระเจ้าแผ่นดินกรุงสยามซึ่งทรงผนวชครองเพศบรรพชิตอยู่ยาวนานถึง ๒๗ ปี กับสังฆราชในศาสนาคริสต์ ซึ่งความต่างศาสนาไม่ได้ขวางกั้นความรักและความเข้าใจกันเลย ต่างเอื้อประโยชน์ต่อกันอย่างน่าสรรเสริญ