หลังจากการสู้รบในสงครามนองเลือดกับฝ่ายราชวงศ์ถังของจีน และอาณาจักรซิลลาของเกาหลี ญี่ปุ่นก็เข้าสู่ยุคแห่งการปฏิรูปไปทั่วทุกหัวระแหง โดยการปฏิรูปครั้งสำคัญที่สุดคือการปฏิรูปไทกะ ซึ่งกระทำโดยจักรพรรดิโคโตกุเมื่อ ค.ศ. 646 การปฏิรูปในครั้งนั้น ได้เริ่มนำเอาวัฒนธรรมการปฏิบัติและเทคนิคการบริหารต่าง ๆ ของจีนมาใช้กับกลุ่มชนชั้นสูงและระบบราชการของญี่ปุ่น
ถึง ค.ศ. 702 ประมวลกฎหมายโยโรและประมวลกฎหมายไทโฮก็ถือกำเนิดขึ้น พร้อมกับคำสั่งที่ให้ประชาชนมารายงานตัวเป็นประจำกับทางการเพื่อเก็บข้อมูลมาสร้างสำมะโนประชากร ที่ต่อมาจะถูกนำมาใช้เป็นตัวชี้วัดสำหรับการเกณฑ์ทหาร หลังจากนั้น เมื่อการทำสำมะโนประชากรเสร็จสิ้นลงจนทำให้รู้ว่าประชากรในญี่ปุ่นมีการกระจายตัวกันอย่างไร จักรพรรดิคัมมุก็ได้ริเริ่มกฎหมายให้ประชากรเพศชายที่เป็นผู้ใหญ่ 1 ใน 3 ถึง 4 คนต้องถูกเกณฑ์เป็นทหารเพื่อรับใช้ชาติ โดยผู้ที่จะเข้ามาเป็นทหารเหล่านี้จะถูกขอความร่วมมือให้ส่งมอบอาวุธของตนแก่ทางการ แต่พวกเขาจะได้รับการยกเว้นในการเสียภาษีและการรับหน้าที่ต่าง ๆ เป็นสิ่งตอบแทน
จักรพรรดิคัมมุ
ในช่วงต้นของยุคเฮอัง ประมาณปลายคริสต์ศตวรรษที่ 8 และต้นคริสต์ศตวรรษที่ 9 จักรพรรดิคัมมุ ได้หาทางทำให้อำนาจของตนทรงพลังและแผ่ขยายไปทั่วตอนเหนือของเกาะฮนชู (แผ่นดินใหญ่ของญี่ปุ่น) แต่กระนั้นเอง ความหวังดังกล่าวก็เริ่มเกิดปัญหา เมื่อกำลังทหารที่จักรพรรดิส่งไปเพื่อปราบกบฏเอมิชิกลับไร้ซึ่งแรงจูงใจและระเบียบวินัยจนต้องแพ้ทัพกลับมา จักรพรรดิคัมมุจึงต้องแก้เกมใหม่โดยการสถาปนาตำแหน่งเซอิไตโชงุง ( "แม่ทัพใหญ่ผู้ปราบคนเถื่อนหรือที่เรียกสั้น ๆ ว่า โชงุง (ภาษาไทยนิยมทับศัพท์ว่า โชกุน) ขึ้นมา เพื่อให้พวกเขาเหล่านี้ไปพิชิตกลุ่มกบฏเอมิชิ เป็นผลให้ทั้งหน่วยประจัญบานบนหลังม้าและนักแม่นธนู (คิวโดะ ที่มีทักษะฝีมือ ต้องถูกเรียกเข้ามาเป็นเครื่องมือ สำคัญในการคว่ำกำลังกบฏทั้งหลาย ซึ่งถึงแม้ว่านักรบเหล่านี้จะเป็นผู้ที่มีการศึกษาก็ตาม แต่ในช่วงเวลาดังกล่าว (ประมาณคริสต์ศตวรรษที่ 7 ถึงคริสต์ศตวรรษที่ 9) ตามสายตาของทางการแล้ว พวกเขายังถูกมองว่าเป็นชนชั้นที่สูงกว่าคนเถื่อนขึ้นมานิดเดียว
แต่ในที่สุด จักรพรรดิคัมมุก็ยุติการบัญชาทัพของพระองค์ไป และอำนาจของพระองค์ก็อ่อนแอลงเรื่อยๆ ขณะเดียวกัน กลุ่มตระกูลที่ทรงอิทธิพลในนครเคียวโตะ ก็ได้เข้าครองตำแหน่งเสนาบดี และบางส่วนก็มีอำนาจเป็นผู้ปกครองหรือศาลแขวง กลุ่มผู้ปกครองเหล่านี้มักจะเรียกเก็บภาษีจากประชาชนอย่างหนักหน่วง เพื่อที่จะสะสมความมั่งคั่งและเป็นการคืนกำไรให้กับพวกตน จึงส่งผลสำคัญให้ชาวนาหลายต่อหลายคนไร้ที่ดินอยู่ อัตราการปล้นสดมภ์ก็เพิ่มขึ้น เหล่าผู้ปกครองจึงแก้ปัญหาโดยการรับสมัครผู้ถูกเนรเทศในเขตคันโตให้มาฝึกฝนศิลปะการต่อสู้อย่างเข้มงวด เพื่อที่จะใช้พวกเขาเป็นหน่วยรักษาความปลอดภัยที่ทรงประสิทธิภาพ บางครั้งก็ให้ไปช่วยเก็บภาษีและยับยั้งการทำงานของเหล่าหัวขโมยและโจรป่า พวกเขาเหล่านี้ได้ถูกเรียกว่า ซะบุไร (saburai) หรือผู้ที่ถวายตัวเป็นข้ารับใช้ให้แก่กองทัพ ซึ่งผู้ที่เป็นซะบุไรมักจะได้เปรียบกว่าคนอื่น เนื่องจากพวกเขาจะได้รับอำนาจทางการเมืองและมีชนชั้นที่สูงขึ้น
แต่ซะมุไรบางกลุ่มก็เป็นเพียงชาวนาและพันธมิตรที่จับอาวุธขึ้นปกป้องตนเองจากกลุ่มซะมุไรที่มีอำนาจสูงกว่า และผู้ปกครองที่จักรวรรดิส่งมาเพื่อเก็บภาษีและครอบครองที่ดินของพวกเขา ซึ่งต่อมาในช่วงยุคเฮอังตอนกลาง ซะมุไรกลุ่มนี้เองได้นำเอาลักษณะพิเศษของชุดเกราะและอาวุธต่างๆ ของญี่ปุ่นมาวางไว้เป็นพื้นฐานของกฎแห่งบุชิโด ซึ่งเป็นกฎที่ประมวลรวมหลักจรรยาต่างๆ ของพวกเขา
หลังจากการผ่านพ้นของซามูไรพเนจรศตวรรษที่ 11 เป็นต้นมา ผู้ที่จะมาเป็นซะมุไรต่างได้รับการคาดหวังว่าจะต้องเป็นผู้ที่มีวัฒนธรรมและอ่านออกเขียนได้ โดยพวกเขาจะต้องสามารถใช้ชีวิตให้กลมกลืนไปกับคำกล่าวโบราณที่ว่า บุง บุ เรียว โดะ (สว่าง, ศิลปะอักษร, ศิลปะการทหาร, วิถีทั้งสอง) หรือ ความกลมกลืนแห่งพู่กันและดาบ ให้ได้ โดยจะเห็นจากชื่อเฉพาะที่ใช้เรียกเหล่านักรบในช่วงแรกๆ ว่า อุรุวะชิ คำนี้ถูกเขียนขึ้นมาด้วยตัวอักษรคันจิที่มีการผสมรวมระหว่างลักษณะเฉพาะตัวของศิลปะอักษร (ญี่ปุ่น: 文 bun ? ตรงกับภาษาจีน "บุ๋น") และศิลปะการทหาร (ญี่ปุ่น: 武 bu ? ตรงกับภาษาจีน "บู๊") เข้าด้วยกัน และมโนทัศน์เช่นเดียวกันนี้ ยังถูกกล่าวไว้ในเรื่องเล่าแห่งเฮเกะ (เฮเกะ โมะโนะงะตะริ, สมัยปลายคริสต์ศตวรรษที่ 12) โดยมีการอ้างอิงไว้ในคำกล่าวของตัวละครที่มีต่อการตายของ ไทระ โนะ ทะดะโนริ นักดาบ-นักกวีผู้มีการศึกษาคนหนึ่งว่า: เหล่าเพื่อนและพวกศัตรูต่างก็มีน้ำตาชุ่มเปียกที่แขนเสื้อ และพากันกล่าวว่า น่าเสียดายเหลือเกิน! ทะดะโนะริเป็นขุนพลผู้ยิ่งใหญ่ มีฝีมือทั้งศิลปะการใช้ดาบและการกวี
วิลเลียม สก็อตต์ วิลสัน ได้กล่าวเอาไว้ในหนังสือของเขาที่ชื่อ ไอเดียลส์ ออฟ เดอะ ซะมุไร ว่า: เหล่านักรบในเฮเกะ โมะโนะงะตะริ ถือได้ว่าเป็นตัวแบบสำหรับนักรบที่มีการศึกษาในรุ่นต่อๆ มา และอุดมการณ์ต่างๆ ที่ถูกอธิบายโดยนักรบแต่ละคนในเรื่องเล่า ก็ไม่ได้แสดงให้เห็นว่ามันเป็นสิ่งที่ยากที่จะทำตามหรือเอื้อมถึง ยิ่งกว่านั้น อุดมการณ์เหล่านี้ยังเป็นที่ต้องการอย่างมากในสังคมนักรบชั้นสูง และยังเป็นสิ่งที่ถูกแนะนำว่าเหมาะสมที่จะนำว่าใช้เป็นรูปแบบของมนุษย์ติดอาวุธชาวญี่ปุ่นทุกคน ด้วยอิทธิพลของเฮเกะ โมะโนะงะตะริ นี่เอง ภาพลักษณ์ของนักรบญี่ปุ่นในงานวรรณกรรมต่างๆ จึงสุกงอมอย่างเต็มที่ ต่อมา วิลสันยังได้แปลงานเขียนของนักรบบางคนที่มีชื่อในเรื่องเล่าแห่งเฮเกะนี้ เพื่อเป็นตัวอย่างให้คนที่ได้อ่านปฏิบัติตนตามอีกด้วย