הקמתו של נהח"ל נועדה להבטיח את המשך קיומם של הגרעינים החלוציים של תנועות הנוער, שמטרת ההגשמה שלהם היתה התיישבות. עוד בטרם הקמת המדינה וצה"ל גייס הפלמ"ח לשורותיו את הכשרות תנועות הנוער כיחידה אחת. הנח"ל, למעשה המשיך את שיטת "ההכשרות המגוייסות" האלו של הפלמ"ח.

הנח"ל נוסד בקיץ 1948 כגדוד גדנ"ע. באותה עת גויסו בני 17  ואומנו בקרבות למקרה שמהלך המלחמה ידרוש את שיתופם. מספר חודשים אחר כך הודיעה משלחת של תנועות נוער חלוציות לשר הבטחון על תמיכתה בהצעה להפוך מסגרת זו לייחודית, כך שתאפשר את המשך פעילותם של גרעיני ההתיישבות. בנובמבר 1949 הוכרז הנח"ל כחיל בצה"ל, לאחר שהכנסת ה- 1 אישרה את חוק שירות הביטחון, בו נקבע כי "12 החודשים הראשונים של כל יוצא צבא יוקדשו להכשרה חקלאית ולאימונים". בפועל ההוראה הזו התבצעה רק בנח"ל.

במהלך שנות קיומו נתחנכו במסגרת הנח"ל מאות גרעינים, שהיו שותפים בהקמת ישובים, ובמקרים רבים אף הקימו יישובים בכוחות עצמם.עד אמצע שנות ה- 50 הנח"ל השקיע עצמו בעיקר בחקלאות ובהתיישבות. לקראת מבצע סיני גדל הדגש על האימונים הצבאיים שעברו חיילי הנח"ל. לאחר מלחמת ששת הימים, ובעיקר אחרי מלחמת יום הכיפורים, עם התרחבותו של צה"ל ושינוי המבנה הארגוני שלו, התארכה גם תקופת האימונים שנדרשה מחיילי הנח"ל. כמו כן, שולבו חייליו ביחידות הקרביות השונות של צה"ל, בין נשאר במערך הצנחנים, בשריון, בחיל האוויר ובהנדסה הקרבית. לימים הוקמה בתוך פיקוד הנח"ל חטיבת הנח"ל.

מסלול ההכשרה של חברי גרעיני הנח"ל כולל תקופת אימונים צבאית ושירות צבאי מבצעי, הכשרה חקלאית ושל"ת (שירות ללא תשלום בהיאחזות הייעודית). אורכו ומשקלו של כל חלק השתנה במשך השנים, אך אלו היו ונשארו רכיבי השירות של הגרעינים.

ב- 1984 הוענק לנח"ל פרס ישראל על תרומה מיוחדת לחברה ולמדינה, אך משבר התנועה הקיבוצית בשנות השמונים והתשעים השפיע על הנח"ל. במקרים רבים קיבוצים סרבו לקלוט גרעיני נח"ל. התופעה הזו, יחד עם שינויים בחברה הישראלית העלו במשך השנים דיון ציבורי בנוגע לשאלה - האם עצם קיומו של הנח"ל במתכונת שמשלבת הכשרה צבאית עם התיישבות עדיין מצדיק את עצמו.