נולד ב-6 במאי 1934 בריגה, לטביה למשפחה בעלת מסורת מוזיקלית ענפה. בשנת 1939 עלתה משפחתו לארץ ישראל, בתחילה התישבה במגדיאל וכעבור שנתיים עברה לתל אביב. בגיל עשר החל ללמוד נגינה בפסנתר, אך לאחר שלושה שיעורים חלה בשיתוק ילדים והיה מרותק למיטה במשך  שלוש שנים. כחלק מתהליך ההחלמה למד לנגן באקורדיון. בגיל 13, בעקבות גירושי הוריו, עבר להתגורר כילד חוץ בקיבוץ נען ולמד שם רבות מהמורה למוזיקה יהודה אורן ומהמלחין דוד זהבי.

אחרי שאמו נישאה בשנית, עבר לגור אצלה ברחובות. כשנה לפני הגיוס עבר לכפר המכבי, שם פגש את מתתיהו שלם מקיבוץ רמת יוחנן והחל לעבוד עמו ברעיית צאן. התחבר אל שלם ואל חבריו לאה ברגשטיין, אילקה רווה, אליהו גמליאל ושרה לוי-תנאי, והושפע מדרכם המוזיקלית. באותה תקופה הפך לאקורדיוניסט בחוגים לריקודי עם בהשפעת גורית קדמן, מחלוצות ריקודי העם בארץ, וכתב את שירו הראשון 'ניצנים נראו בארץ', לפי מלים מ'שיר השירים'.  

גויס לצבא ושירת בפיקוד הנח"ל, היה רכז של צוותות הווי ואקורדיוניסט מחליף בלהקת הנח"ל. עבד עם נעמי שמר בהכנת טקסי העלייה לקרקע של עין גדי, יטבתה (עין רדיאן) ונחל עוז. מאחר ולא ידע לקרוא או לכתוב תווים, נעמי שמר רשמה בתווים את שיריו הראשונים. לאחר השחרור מצה"ל עבר קורס סיירים, הצטרף לסיירת שריון של אוגדה 210 בחיל השריון, אתה השתתף בשלוש מלחמות ונפצע בכולן.

בתקופת השירות הצבאי נישא לדליה קולטון ועם השחרור הצטרף איתה לקיבוץ נווה איתן. לאחר שנה וחצי עבר לקיבוץ בית אלפא ובשנת 1958 נשלח מטעם הקיבוץ ללימודים במדרשה למורים למוזיקה. בשנת 1961, סיים שלוש שנות לימודים ושב לקיבוץ כמורה למוזיקה במוסד החינוכי בית אלפא. במקביל המשיך בלימודיו. בשנת 1962 השלים לימודים לתואר ראשון (בהצטיינות) באקדמיה למוזיקה בירושלים. בשנים 1964-1961 השתלם במוזיקה אצל המלחין פאול בן חיים ואצל המנצח גארי ברתיני.

במסגרת עבודתו כמורה הקים תזמורות ומקהלות שזכו בהערכה ובפרסים רבים. באותה תקופה הקים את 'חמישיית גלבוע', חמישייה כלית של נגנים מהאזור, והשתתף בה כנגן אקורדיון. כמו כן  החל לשמש כמנהל המוזיקלי של להקת 'הגבעטרון', חבורת הזמר של קיבוץ גבע, שהפכה בהדרכתו ללהקה מקצועית ומפורסמת. הרפרטואר של הלהקה כלל שירים שהולחנו על ידיו ועל ידי מלחינים צעירים מהתנועה הקיבוצית.

שיריו ופעילותו פרצו מעבר לתחומי עמק יזרעאל. באותה תקופה החל לשמש כמפיק ומנהל מוסיקלי של משלחות מטעם המדינה לפסטיבלי הנוער הדמוקרטי. הוא גם ייסד את פסטיבל הקיץ 'ענות' לזכרו של ידידו זאב חבצלת. שירים שהלחין השתתפו בפסטיבלי הזמר והפזמון בשנות ה-60 וחלקם זכו להצלחה, כגון: 'ריח תפוח אודם שני', 'הגביע', 'שיר בארבעה בתים', 'שמלת כלולות'.  

בתחילת שנות השישים התיידד עם המשורר נתן יונתן מקיבוץ שריד ובמהלך השנים הלחין כמאה משיריו, כמה מהם היו לנכסי צאן ברזל, של הזמר העברי, כגון: 'חופים', 'החול יזכור' , 'שיר אהבה ישן' ו'שירים עד כאן'. באותה תקופה נוצרו קשרי עבודה ראשונים עם כותבים נוספים כגון אהוד מנור, יורם טהרלב, רחל שפירא, דודו ברק ואחרים, שרבים משיריהם הולחנו על ידיו. היימן גם גילה וטיפח זמרים בראשית דרכם, ביניהם חווה אלברשטיין, עליזה עזיקרי, צמד דרום, אסנת פז, 'שלישיית גשר הירקון' ו'צמד הפרברים' להם הלחין את שיריהם הראשונים, בהם: 'את אני והרוח', 'אילו כל האוהבים', 'רק הד קולך' ו'ריח תפוח אודם שני.

בתקופה זאת החל להפיק תקליטים ולדאוג להפצתם. כמו כן פיתח עניין במוסיקת רקע ושירי נושא לסרטי קולנוע והחל להלחין פסקולים לסרטי קולנוע. הראשון שבהם היה סרטו של מיכה שגריר 'המלחמה לאחר המלחמה', עבורו הלחין את השיר 'מרדף' למילים שכתב ירון לונדון, וביצעה חוה אלברשטיין. שירים נוספים כמו 'צמח בר', 'נחל התנינים' ואחרים נכתבו כשירי נושא לסרטי קולנוע וסדרות טלוויזיה. באותה תקופה גם כתב יחד עם לאה נאור את המחזמר לילדים 'זרעים של מסטיק',  אשר דורות של ילדים גדלו על שיריו.

בשנת 1968 נסע לפריז ועבד שם עם מיטב הכוכבים של התקופה, בהם ננה מושקורי, מארי לאפורה, סרז' לאמה, ועם הישראלים ריקה זראי ומייק ברנט. כתב שירים לזמרים צרפתים, לימד בבית הספר הישראלי בפריז וניהל במשך שנתיים את התזמורת של מארי לאפורה.

בסוף שנת 1972 עבר ללונדון, שם עבד עם אמנים מקומיים, ניהל מערכת אולפני הקלטה, הקים וניהל את חברת התקליטים 'למבורגיני רקורדס'. בשנת 1977 השלים את הלימודים לתואר בוגר בבית הספר לקולנוע (מגמת מוזיקה) בלונדון. הוא הלחין ועיבד מוזיקה לסרטים ולסדרות בריטיות, בהן סדרה המבוססת על סיפורי התנ"ך בהפקתם של ג'והן היימן וחיים טופול. באותה תקופה הכין, עיבד, הפיק והקליט עם גלי צה"ל הפקות של שירי נתן יונתן ונתן אלתרמן. חלק משירים אלו, כגון 'על העיר עפות יונים', 'שדרות בגשם', 'עוד חוזר הניגון', הפכו לחלק מן הקלאסיקה הישראלית. בכל שנותיו בלונדון שמר על קשר עם חבריו למקצוע בישראל והקליט בלונדון מספר אלבומים משיריו, כגון 'אני הולכת אלי' עם חוה אלברשטיין ו'אני ראיתי יופי' עם נורית גלרון.  
 
בשנת 1984 שב לישראל, הקים וניהל את חבורת הזמר 'חופים',  שכללה את הזמרים מאיר בנאי, משה דץ, חני ליבנה ואחרים. החבורה העלתה קרוב ל-300 פעמים במשך שלוש שנים את המופעים  'חופים' ו'שירים עד כאן'  שהורכבו משיריו של היימן. אחרי כן עבר לנצח על חבורות זמר ולקיים ערבי שירה בציבור. במקביל המשיך לכתוב שירים ומוסיקה לסרטי קולנוע שביימו מיכה שגריר, נדב לויתן, ריקי שלח, שמוליק אימברמן ואחרים. במשך שלוש שנים שימש  כמנהל המוזיקלי של פסטיבל ערד בתחילת דרכו. הוא חידש את קשרי העבודה עם משוררים ופזמונאים רבים ושב והשתלב בתעשיית המוסיקה בישראל.

בשנת 1996 החל לנהל את מחלקת הנוסטלגיה בחברת המוזיקה 'הליקון' והוציא מחדש, על תקליטורים, הקלטות ישנות של חברת התקליטים הוותיקה 'ישראפון'. במסגרת זו הוציא כשישים תקליטורים. לאחר סיום פרויקט זה נרתם לטפל בעצמו בהנצחת ראשית ימי הזמר בארץ ובשנת 2002 הקים את 'העמותה למורשת הזמר העברי'. במסגרת פעילותו בעמותה הקדיש את מירב זמנו לשיחזור הקלטות ישנות, הקלטה מחדש של שירים ותיקים והעלאתם על תקליטורים. עד לפרישתו מהעמותה בשנת 2011 הוציא במסגרתה כעשרים אלבומים, בהם שירים של מתתיהו שלם, עמנואל זמיר, יוסף הדר, חיים גורי, אילקה רווה ואחרים.

במקביל לפעילות בעמותה המשיך לכתוב מוזיקה לסרטים. השיר 'אהבה בחולות' שהלחין לסרט על תל אביב נבחר לשיר של חגיגות המאה לעיר. הוא עורך סדרות של הרצאות בישובים שונים על תולדות הזמר העברי, עורך ומנצח בערבי זמר ושירה בציבור ומגיש תוכנית זמר עברי ברדיו.

במהלך שנות פעילותו הלחין נחום היימן למעלה מאלף יצירות, בהן מאות שירי זמר, שרבים היו לקלאסיקה של הזמר העברי. הוא כתב מוסיקה ליותר ממאה ועשרים סרטי קולנוע וסדרות טלוויזיה, הלחין סדרות רבות של שירי ילדים ('זרעים של מסטיק', 'אפרוחים', 'חלב ודבש', 'אצבעות לי' ועוד). יצירותיו ראו אור בלמעלה מארבעים אלבומים. כיום הוא מפיק סדרת תקליטורים אשר תרכז בצורה מסודרת את מכלול יצירתו.

נחום היימן מלווה בלחניו את הזמר העברי מימי ראשית המדינה. בזכות פעילותו כמלחין, מעבד מוזיקלי, מנצח ומפיק, הוא נחשב לאחד מעמודי התווך של הזמר העברי. שיריו נטועים עמוק באדמת ארץ-ישראל, ורבים מהם היו לנכסי צאן ברזל בתרבות הישראלית. לדבריו, 'מוזיקה ישראלית היא כל מנגינה שיש בה ניצוץ של העבר המוזיקלי של ישראל ושל התרבות היהודית. מוזיקה שיש בה ריחות של טבע ושל חקלאות וצלילים של תרבות בת שלושת אלפים שנה'.

במהלך השנים זכה נחום היימן בפרסים ואותות הוקרה רבים: פרס על שם יהודה שרת מטעם ההסתדרות הכללית על תרומתו לזמר העברי; פרס 'נוצת הזהב' של אקו"ם על מפעל חיים; פרס 'תפוז' מטעם תעשיית התקליטים על מפעל שחזור קטלוג 'ישראפון;' פרס 'מגן הכנסת'  (במסגרת שבוע הזמר העברי) על שחזור סדרת הנוסטלגיה;  פרס על מפעל חיים מן האקדמיה הישראלית לקולנוע; אות הוקרה על מפעל חיים מאוניברסיטת בר אילן.

בשנת 2009 זכה בפרס ישראל לזמר עברי. את בחירתם נימקו השופטים במילים: 'נחום היימן שייך לדור הנפילים של הזמר העברי. עבודתו מאופיינת במשך כמעט שני דורות בחזון מתמיד של פריצה קדימה ובחריש של תלם ראשון, יזמות ויצירתיות בלתי נלאית ותרומה רחבת הקיף לזמר העברי, לקידוש השפה העברית, להפצת השירה העברית והישראלית ולכבוד משורריה.

בנוסף לעבודתו היוצרת עוסק נחום היימן בשנים האחרונות בהתמדה בשימור ובתיעוד הזמר העברי בישראל. יותר מ-1000 שירים ויצירות מוסיקליות הלחין נחום היימן לאורך יותר מחמישים שנות יצירה, אשר רבים מהם הפכו לזמר מושר בפי העם, נכסי צאן ברזל לזמר העברי לדורותיו'.