เรื่องราวความเป็นมาของพระราชวังบ้านปืนนั้น เดิมที พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว โปรดเกล้าฯ ให้สมเด็จพระเจ้าลูกยาเธอ เจ้าฟ้ากรมขุนนครสวรรค์วรพินิต ผู้บัญชาการทหารเรือ กับ พระเจ้าน้องยาเธอกรมหลวงดำรงราชานุภาพ (พระยศในขณะนั้น) เป็นแม่กองดำเนินการก่อสร้างพระตำหนัก ถนน และสถานที่ต่างๆ พร้อมโปรดเกล้าฯ ให้ คาล ดอห์ริง นายช่างเยอรมัน เป็นผู้คิดเขียนแบบรูปพระตำหนักตามกระแสพระราชดำริ

โดยมี ดอกเตอร์ควดไบเยอร์ ชาวเยอรมัน เป็นนายช่าง ก่อสร้าง โดยพระราชประสงค์ให้สร้างพระราชวังแบบยุโรป เพื่อใช้สำหรับแปรพระราชฐานในฤดูฝน ความงดงามของสถาปัตยกรรมยุโรปสุดคลาสสิกที่มีอายุกว่า 100 ปีแต่ยังคงความงดงามไว้อย่างน่าตื่นตาตื่นใจ สอบถามถึงรูปแบบของสถาปัตยกรรมภายในพระราชตำหนักได้ความว่า เป็นสถาปัตยกรรมแบบบาโรค และแบบอาร์ต นูโว ตัวพระตำหนักเน้นความทันสมัย

ไม่เน้นลายรูปปั้นที่วิจิตรพิสดารมากมาย เหมือนอาคารที่ถูกสร้างในสมัยเดียวกัน แต่จะเน้นเรื่องความสูงของหน้าต่างซึ่งสามารถสังเกตเห็นได้อย่างชัดเจน ทั้งจากภายในและด้านนอกของอาคาร รวมถึงความสูงและกว้างใหญ่ของเพดาน ทำให้พระตำหนักดูใหญ่โต สง่างาม และตระการตา โดยไม่ต้องแต่งเติมด้วยลวดลาย หรือสีสันมากจนเกินไป

แผนผังของตัวอาคารสร้างเป็น สี่เหลี่ยมผืนผ้าล้อมสวนหย่อม มีสระน้ำพุตั้งอยู่ตรงกลาง ส่วนที่ประทับเป็นตึก สองชั้นขนาดใหญ่ หลังคาทรงสูงรูปโดม ภายในเป็นโถงสูงมีบันไดโค้งขึ้นสู่ชั้นสองซึ่งจัดเป็นจุดเด่นของ พระตำหนักเพราะรวมสิ่งน่าชมไว้หลายหลาก ตัวอย่างเช่น เสาที่ประดับด้วยกระเบื้องเคลือบและตกแต่งด้วยโลหะ ขัดเงา เสาเหล่านี้แล่นตลอดจากพื้นจดเพดานชั้นสองและประดับด้วยกระเบื้อง เขียวเข้ากันกับบริเวณ โดยรอบ โถงบันได ที่หัวเสาตาม ราวบันไดโค้งมีตุ๊กตากระเบื้องรูปเด็กในอิริยาบถต่าง ๆ ประดับไว้ รอบบริเวณโถงบันไดชั้น บนยังมีกรอบลูกไม้กระเบื้องเคลือบประดับตามช่องโดยรอบอีกด้วย

ในการเข้าชมพระราชวังแห่งนี้สามารถเข้าชมได้ทั้งชั้นล่างและชั้นบน ซึ่งชั้นล่างจะประกอบไปด้วย ห้องรอเฝ้า ท้องพระโรงกลาง ห้องเสวย ห้องเครื่อง และห้องเทียบเครื่อง ซึ่งแต่ละห้องจะมีการตกแต่งอย่างเรียบง่ายแต่แฝงไปด้วยเรื่องราวและความงดงาม ที่โดดเด่นไม่แพ้สถาปัตยกรรมภายในพระราชตำหนัก ต้องยกให้การจัดสวนสไตล์ยุโรปด้านนอกอาคาร ที่สวยงามและโรแมนติกอย่างกับหลุดเข้ามาอยู่ในโลกของเทพนิยาย สะดุดตาผู้เข้าชมทุกคนจนถูกใช้เป็นสถานที่ถ่ายทำละครมาแล้วหลายเรื่อง

สำหรับบันไดขึ้นชั้นบน เป็นบันได้แบบเวียนคู่เป็นศิลปะแบบบาร็อคมีลักษณะวนหากันเป็นรูปดอกจิก บนราวบันไดประดับด้วยรูปปั้นตุ๊กตาถือผลไม้ ถือพวงมาลัย ซึ่งเป็นศิลปะแบบโมเดิร์นสไตล์ เชื่อมต่อจากห้องโถงกลมชั้นล่าง ที่ คาลดอห์ริง นายช่างเยอรมัน ออกแบบเป็นศิลปะผสมผสานที่เข้ากันอย่างลงตัว โดดเด่นด้วยต้นเสาสีเขียวเข้ม และพื้นหินอ่อนกลางห้องลวดลายลักษณะคล้ายเกล็ดปลา หากมองจากด้านบนลงมาจะเห็นถึงความสวยงามได้อย่างชัดเจน ซึ่งที่ชั้นสองยังมีระเบียงที่สามารถมองเห็นวิวด้านนอกได้อย่างชัดเจนเป็นมุมผ่อนคลายสายตาของผู้มาเยือนอีกด้วย

พระตำหนักหลังนี้ยัง มีสิ่งที่น่าชมอีกมาก กล่าวคือ การตกแต่งภายในแต่ละห้องให้มีรูปลักษณ์แตกต่าง กันไปทั้ง สีสันและวัสดุที่ใช้ เช่น บริเวณโถงบันไดใช้โทนสีเขียว ห้องเสวยใช้โทนสีเหลือง ตกแต่งช่องประตูด้วยเหล็กดัด แบบอาร์ต นูโว

ในส่วนของห้องเสวยจะรวบรวมศิลปะแบบโมเดิร์นสไตล์ของเยอรมัน และศิลปะแบบอาร์ตนูโวของฝรั่งเศสอย่างลงตัว มีการประดับผนังด้วยแผ่นกระเบื้องเคลือบสีเหลืองสด ตัดกรอบด้วยกระเบื้องเขียวเป็นช่อง ๆ ตาม แนวยืน โดยกระเบื้องประดับผนังมีลวด ลายนูนเป็นรูปสัตว์และพรรณพืชต่าง ๆ แทรกอยู่เป็นระยะ ๆ ด้านหน้าของห้องเสวยมีรูปปั้นเทพเจ้าโพไซดอน ตั้งอยู่ ซึ่งมีความเชื่อว่าเป็นเทพเจ้าแห่งท้องทะเลที่มีความศักดิ์สิทธิ์

ถัดมาเป็นห้องทรงพระอักษร มีลักษณะเด่นชัดคือมีตู้ฝังกับผนังห้องกระจกหน้าต่างเป็นกระจกแสตนกลาส มีการสร้างที่ลดหลั่นตรงบริเวณประตูทางออกไปนอกระเบียงทำให้ดูกลมกลืนงดงามมาก ถักจากนั้นเป็น ห้องสรง รวบรวมศิลปะร่วมสมัย เห็นได้จากสุขภัณฑ์ที่ตกแต่งไว้อำนวยความสะดวกและเป็นห้องที่มีการประดับกระจกแสตนกลาสสวยที่สุดในพระราชวัง