ביוני 1941 נמנה עם ראשוני המתגייסים לפלמ"ח. שובץ בפלוגה א' במשמר העמק והשתתף בפלישה לסוריה בשיתוף עם הצבא הבריטי. עבר קורס מ"כים במשמר העמק ואחרי כן הועבר למטה הפלמ"ח ושירת כמוביל ציוד ונשק. בתחילת 1943 נתפס על ידי הבריטים עם ציוד צבאי ונאסר. אחרי ששוחרר בערבות עד למשפט, עבר למחנה הפלמ"ח בקיבוץ נגבה לפלוגה ה'. אז גם החליף את שמו ל'נחום כרמלי' ונשאר עם שם זה עד היום. נשפט על ידי הבריטים שלא בפניו ונידון לחמש שנות מאסר. לאחר סיום קורס מ"מים בג'וערה מונה למפקד פלוגה ה' ברמת הכובש. בהמשך פיקד באופן זמני על פלוגה ח'. בשנים 1946-1945 היה מפקד מחלקה בפלוגה ג' והדריך בקורסי מ"כים של הפלמ"ח. מתחילת 1947 עד אפריל 1948 פעל בשליחות הפלמ"ח במסגרת עליה ב' בצרפת ובאיטליה. בעת שהותו בפריז, במילאנו ברומא ובמילנו ראה וחווה מקרוב את מיטב האמנות המערבית.
באפריל 1948 חזר לארץ ומונה למפקד פלוגה ג' בגדוד השלישי של חטיבת יפתח. התקדם בהמשך לתפקיד סגן מפקד הגדוד השלישי בחטיבת יפתח. השתתף עם פלוגתו בקרבות מלחמת העצמאות: בקרבות הגליל, בכיבוש צפת, בקרבות עמק הירדן ועוד. אחרי כן השתתף בקרבות בחזית המרכז: בשער הגיא, במשלטי לטרון, במבצע 'יורם', במבצע 'דני', בכיבוש לוד ועוד.
עם סיום המלחמה בנובמבר 1948 השתחרר וחזר לקיבוץ. עבד בדיג ובמטעים ובמקביל עסק באמנות כתחביב. בשנת 1967 התגייס לצה"ל, לחיל ההנדסה בפיקוד צפון ושירת כקצין ביצורים. בשנת 1982 השתחרר מצה"ל בדרגת סגן-אלוף. חזר לקיבוץ ושימש בתפקידים שונים, אך יותר ויותר התמסר לציור. בשנת 1988 עבר לעסוק באמנות במשרה מלאה.
השתתף בתערוכות קבוצתיות: 'התערוכה הכללית של אמני ישראל' ו'תערוכת אמנים צעירים', מוזיאון תל-אביב (1954); ביתן האמנים, תל-אביב (1956, 1961); תערוכת אמני הקיבוץ, נען (1958); בית דיזנגוף, מוזיאון תל-אביב (1959); תערוכת אמני הקיבוץ, אירופה, דרום אמריקה (1965); תערוכה של ציירי הגליל העליון ורמת הגולן, גן התעשייה תל-חי (1992); תערוכה של אמני הגליל, מוזיאון ברעם לאמנות יהודית (2008) ועוד. הציג בתערוכות יחיד: גלריה צ'מרינסקי, תל-אביב (1962, 1964); גלריה לים, תל-אביב (1964); גלריה הקיבוץ, תל-אביב (1981, 1986); 'בן גלרי', מטולה (1989); גלריה מחניים (1996, 1998); בית האמנים, חיפה (1999); מוזיאון השפלה, כפר מנחם (2000); משכן האמנויות ביקנעם (2004) ועוד.