บ้านพักนายกรัฐมนตรีเริ่มมีมาตั้งแต่ปี ๒๔๗๕ เมื่อมีนายกรัฐมนตรีคนแรก หลังเปลี่ยนแปลงการปกครองคณะราษฎรได้ใช้ “วังปารุสกวัน” เป็นที่ทำการหรือทำเนียบรัฐบาล โดย “ตำหนักจิตรลดา” ที่อยู่ในวังปารุสก์ เป็นที่ทำการของคณะราษฎร ส่วน “ตำหนักปารุสกวัน” เป็นทำเนียบรัฐบาลและบ้านพักนายกรัฐมนตรี
นายกรัฐมนตรีคนแรกที่เข้าอยู่อาศัยในวังปารุสก์ก็คือ พระยามโนปกรณ์นิติธาดา (ก้อน หุตะสิงห์) นายกรัฐมนตรีคนที่ ๑ ต่อมาพันเอกพระยาพหลพลพยุหเสนา นายกรัฐมนตรีคนที่ ๒ ก็เข้าอยู่ เมื่อพ้นตำแหน่งแล้ว จอมพล ป.พิบูลสงคราม นายกรัฐมนตรีคนที่ ๓ ได้ย้ายทำเนียบรัฐบาลไปอยู่ที่วังสวนกุหลาบ ส่วนพระยาพหลฯก็ยังอยู่ที่วังปารุสก์จนกระทั่งอสัญกรรมในปี ๒๔๙๐
วังปารุสกวันสร้างขึ้นในปี ๒๔๔๖ สมัยรัชกาลที่ ๕ เพื่อให้เป็นที่ประทับของพระเจ้าลูกยาเธอ ๒ พระองค์ คือตำหนักจิตรลดาที่อยู่ทิศเหนือด้านลานพระบรมรูปทรงม้า เป็นที่ประทับของสมเด็จพระบรมโอรสาธิราช เจ้าฟ้ามหาวชิราวุธ สยามมกุฎราชกุมาร ก่อนจะขึ้นครองราชย์ในรัชกาลที่ ๖ ส่วนตำหนักปารุสกวันด้านทิศใต้ติดถนนพิษณุโลก เป็นที่ประทับของจอมพล สมเด็จเจ้าฟ้าจักรพงษ์ภูวนาถ กรมหลวงพิษณุโลกประชานาถ ออกแบบโดยนายมาริโอ ตามานโญ สถาปนิกชาวอิตาเลียนผู้ออกแบบพระที่นั่งอนันตสมาคม ปัจจุบันวังปารุสกวันเป็นที่ทำการของสำนักงานตำรวจแห่งชาติ และพิพิธภัณฑ์ตำรวจ
บ้านพักนายกรัฐมนตรีที่รู้จักกันดีอีกแห่งหนึ่งก็คือ “บ้านสี่เสา เทเวศร์” ซึ่งเป็นบ้านพักของจอมพลสฤษด์ ธนะรัชต์ และพลเอกเปรม ติณสูลานนท์ บ้านหลังนี้สร้างขึ้นในสมัยจอมพลสฤษดิ์เป็นผู้บัญชาการทหารบก เพื่อเป็นบ้านพักประจำตำแหน่ง ผบ.ทบ. และเข้าอยู่อาศัยเป็นคนแรกจนถึงอสัญกรรม ผู้ที่เข้าอยู่ต่อก็คือพลเอกเปรม ติณสูลานนท์ ในฐานะผู้บัญชาการทหารบก จนก้าวขึ้นเป็นนายกรัฐมนตรี ประธานองค์มนตรี รัฐบุรุษ ถึงอสัญกรรม ตลอด ๔๐ ปีที่พลเอกเปรมพักอาศัยอยู่ที่บ้านนี้ บ้านสี่เสาได้สร้างประวัติศาสตร์ไว้มาก ถูกกล่าวถึงในข่าวอยู่ตลอด
ความจริงแล้วบ้านสี่เสาไม่มีชื่อ แต่ที่เรียกชื่อนี้กันก็เพราะอยู่ที่สี่แยกถนนที่เรียกกันมาก่อนว่า “สี่เสา เทเวศร์” เพราะเป็นที่ตั้งของเสาไฟฟ้าสี่ต้นรองรับหม้อแปลงที่ใช้กับรถรางสายสามเสน สายที่ ๒ รองจากสายถนนตก-หลักเมือง เริ่มเดินรถมาตั้งแต่สมัยรัชกาลที่ ๕ จากที่น้ำเขียวไข่กา บางกระบือ ข้างโรงเรียนราชินีบน มาตามถนนสามเสน ผ่านเทเวศร์ บางลำพู พาหุรัด เยาวราช สามแยก หัวลำโพง สวนลุมพินี ไปสุดสายที่คลองเตย
หลังพลเอกเปรมอสัญกรรม กองทัพบกเจ้าของที่ดินได้มอบบ้านสี่เสาให้สำนักงานทรัพย์สินส่วนพระมหากษัตริย์ และได้ถูกรื้อในปี ๒๕๖๓
บ้านพักนายกรัฐมนตรีที่โด่งดังในยุคนี้ ก็คือบ้านพักของพลเอกประยุทธ จันทร์โอชาในกรมทหารราบที่ ๑ รักษาพระองค์ อาจจะเป็นเหตุผลทางยุทธศาสตร์การเมืองที่พลเอกประยุทธต้องเข้ามาอยู่บ้านนี้ ถ้านอนบ้านตัวเองก็คงไม่ได้หลับได้นอน ทั้งจะพลอยทำให้คนอยู่รอบบ้านเดือดร้อนไปด้วย ขนาดอยู่ในกรมทหารยังมีคนยกขบวนมาท้าตีท้าต่อยเป็นประจำ และยังเอาเรื่องนี้มามาแซะให้ออกจากตำแหน่งนายกรัฐมนตรีให้ได้ โดยยื่นฟ้องต่อศาลรัฐธรรมนูญ แต่ศาลรัฐธรรมนูญได้วินิจฉัยตามระเบียบบ้านพักรับรองกองทัพบก พ.ศ.๒๕๔๘ ว่าพลเอกประยุทธมีสิทธิ์อยู่อาศัย เพราะเป็นอดีตผู้บัญชาการทหารบก
ส่วนบ้านพักนายกรัฐมนตรีอย่างเป็นทางการก็มีอยู่ในปัจจุบัน คือ “บ้านพิษณุโลก” บ้านหลังนี้พระบาทสมเด็จพระมงกุฏเกล้าเจ้าอยู่หัวโปรดให้สร้างพระราชทานแก่ พลตรีพระยาอนิรุธเทวา (หม่อมหลวงฟื้น พึ่งบุญ) มีชื่อเมื่อแรกสร้างว่า “บ้านบรรทมสินธุ์” มีรูปปั้นพระนารายณ์ เทพเจ้าองค์หนึ่งของศาสนาพราหมณ์บรรทมอยู่ในวงขดของพญานาคราช มีพระชายาปฏิบัติอยู่แทบพระบาท ตั้งอยู่บนแท่นกลางสระหน้าตึก
ในสมัยสงครามโลกครั้งที่ ๒ รัฐบาลจอมพล ป.พิบูลสงครามได้อนุมัติซื้อบ้านหลังนี้ รวมทั้งบ้าน “นรสิงห์” ที่เป็นทำเนียบรัฐบาลในปัจจุบัน เพื่อไม่ให้ญี่ปุ่นมาซื้อไปทำสถานทูต เพราะนอกจากจะอยู่ในเขตยุทธศาสตร์ที่สำคัญแล้ว ยังเป็นสถาปัตยกรรมที่สวยงามมีคุณค่าทางประวัติศาสตร์ เคยใช้เป็นบ้านรับรองจอมพลฮิเดกิ โตโจ้ นายกรัฐมนตรีญี่ปุ่นที่มาเยือนไทยในระหว่างสงครามโลกครั้งที่ ๒
จากนั้นก็ใช้เป็นที่ทำงานของกรมประสานงานไทย-ญี่ปุ่น เปลี่ยนชื่อจากบ้านบรรทมสินธุ์เป็น “บ้านไทย-พันธมิตร” พอสงครามยุติบ้านนี้ก็ถูกเปลี่ยนชื่ออีกครั้งเป็น “บ้านสันติภาพ” และเมื่อจอมพล ป.กลับมาสู่ตำแหน่งนายกรัฐมนตรีหลังพ้นคดีอาชญากรสงคราม ก็เปลี่ยนชื่อบ้านนี้เป็น “บ้านพิษณุโลก” ตามชื่อถนนหน้าบ้าน
ต่อมาในปี ๒๕๒๒ รัฐบาลพลเอกเกรียงศักดิ์ ชมะนันท์ได้ปรับปรุงบ้านพิษณุโลกขึ้นใหม่ เพื่อให้เป็นบ้านพักประจำตำแหน่งนายกรัฐมนตรี มาแล้วเสร็จในปี ๒๕๒๔ ในสมัยพลเอกเปรม ติณสูลานนท์ ซึ่งเข้าอยู่เพียง ๗ วันก็ย้ายไปอยู่ที่บ้านสี่เสา
การที่พลเอกเปรมย้ายมาอยู่ได้ไม่กี่วันก็ย้ายออกโดยไม่เปิดเผยสาเหตุนี้ เป็นเหตุให้เกิดร่ำลือว่าบ้านพิษณุโลกผีดุ ความจริงอาจจะเป็นเพราะมีการซ่อมแซมปรับปรุงบ้านสี่เสาก็เป็นได้
ต่อมาในรัฐบาลพลเอกชาติชาย ชุณหะวัณ ซึ่งมีบ้านใหญ่โตอบอุ่นในหมู่ญาติพี่น้องในซอยราชครูอยู่แล้ว จึงไม่ได้ย้ายมาอยู่บ้านพิษณุโลก คงใช้เป็นที่ทำงานของคณะที่ปรึกษาซึ่งเรียกกันว่า “ที่ปรึกษาบ้านพิษณุโลก”
นายกรัฐมนตรีที่เข้ามานอนที่บ้านพิษณุโลกอีกคนต่อจากป๋าเปรม ก็คือนายชวน หลีกภัย ซึ่งเข้ามาอยู่ทั้ง ๒ สมัยที่ดำรงตำแหน่งนายกรัฐมนตรี ทั้งนี้เพราะบ้านในซอยหมอเหล็งนั้นคับแคบ ขบวนเดินทางเข้าออกของนายกรัฐมนตรีจะทำความลำบากให้ชาวบ้าน กล่าวกันว่าที่นายชวนอยู่ได้นานโดยไม่มีผีมารบกวน ก็เพราะ เพราะนายชวนให้เกียรติเจ้าของบ้านเก่า ไม่ไปนอนในห้องนอน แต่มานอนบนโซฟาในห้องทำงานหน้าห้องนอน ความจริงห้องนอนของบ้านพิษณุโลกนั้นกว้างใหญ่โอ่โถง นายชวนคนใช้ชีวิตอย่างสมถะอาจจะรู้สึกว้าเหว่เวิ้งว้างก็เป็นได้ เลยมามานอนบนโซฟาในห้องเล็กๆตามความเคยชินของคนใช้ชีวิตพอเพียง
จากวันนั้นก็ยังไม่มีนายกรัฐมนตรีคนไหนมานอนบ้านพิษณุโลกอีกเลย ทั้งทักษิณ ชินวัตร พล.อ.สุรยุทธ จุฬานนท์ สมัคร สุนทรเวช สมชาย วงศ์สวัสดิ์ อภิสิทธิ์ เวชชาชีวะ ยิ่งลักษณ์ ชินวัตร ก็ล้วนแต่ไม่ต้องพึ่งพาบ้านพิษณุโลกกันทั้งนั้น จึงเป็นบ้านพักสำหรับนายกรัฐมนตรี ที่ไม่มีนายกรัฐมนตรีเข้าพัก แต่ก็ยังพูดกันตลอดมาว่าเป็นเพราะผีดุ
บ้านพิษณุโลกได้รับความสนใจอีกครั้ง และมีชีวิตชีวาเคลื่อนไหวโลดแล่นขึ้นในบ้าน เมื่อถูกนำมาเป็นฉากสำคัญของภาพยนตร์เรื่อง “บ้านทรายทอง” ที่สร้างโดยบริษัทไฟว์สตาร์โปรดักชั่น โดย รุจน์ รณภพ ซึ่งเป็นภาพยนตร์ที่ทำเงินมหาศาล คนดูจึงได้เห็นความโอ่อ่าสง่างามสมกับตำแหน่งนายกรัฐมนตรีของบ้านพิษณุโลก คอยดูว่าเมื่อไหร่จะมีชายกลางมาอยู่บ้านทรายทองอีกคน