בעקבות מאורעות 1921-1920 התעורר הצורך ליצר כלי נשק ותחמושת עבור ה'הגנה'. קומץ של 'משוגעים לדבר' עסקו בבתי מלאכה פרטיים בתיקון נשק, ב'הבראת כדורים' (החלפת פיקות) ובייצור רימונים ופצצות פרימיטיביות. הצורך לעבוד בסתר, הדלות של התעשיה בישראל והמחסור באנשי מקצוע הקשו על התפתחות התעשיה.

בעקבות מאורעות 1929 הגבירה ה'הגנה' את יצור הנשק, ובבתי המלאכה שלה יוצרו רימוני יד, רימוני רובה ופצצות. תהליך היצור הסתייע בנסיון ובכושר ההמצאה והאילתור של אנשי התעש וה'הגנה', שפיצו במידה מסוימת על דלות האמצעים. בשנת 1933 נוסד התעש רשמית כתעשיית הנשק והתחמושת של ה'הגנה', והחל לקבל תקציבים ולהעסיק עובדים קבועים בשכר. בית המלאכה העצמאי הראשון של התעש הוקם במפעל המים של שכונת ברוכוב בגבעתיים. במקום יוצרו רימוני יד ורובה באופן שיטתי וסדיר. בשנת 1934 הוקם במטה ה'הגנה' ועד תעש שהיה אחראי על הטיפול השוטף בעניני תעש ועל הקשר בין אנשי היצור בתל אביב עם אנשי הפיתוח במקומות אחרים.

בימי מאורעות 1939-1936 גדל הצורך של ה'הגנה' בנשק ותחמושת. בשנת 1936 הועבר בית המלאכה של ה'הגנה' משכונת בורוכוב למקום מרווח יותר, המפעל לעיבוד עורות של האחים לבקוביץ', על שפת הים בצפון תל-אביב. במשך שנים היה מפעל זה, שכונה מכון א', המפעל המרכזי של התעש לעיבוד גופי רימונים ול'הבראת כדורים'. באותה שנה נוסד בנען בית היציקה המרכזי לרימונים ולפצצות מרגמה "3. בשנת 1937 הוקם בבית החרושת 'יפאורה' ברחובות מפעל ליצור 'טן', חומר נפץ למילוי רימונים.

בשנת 1937 מינתה ה'הגנה' את ישראל עמיר (זבלודובסקי) למנהל התעש במטרה למסד את תעשית הנשק. עם כניסתו לתפקיד החל עמיר בארגונו של תעש ובגיבוש נהלי עבודה סדירים, שופר הקשר והתיאום בין התעש לאנשי ה'הגנה' ותקציב התעש עלה בצורה משמעותית. לראשונה הוקם גוף מיוחד לצרכי מחקר ופיתוח: ועדה כימית-טכנית שהורכבה ממהנדסים וממדענים אשר עסקו בתכנון מוצרים חדשים ובשיפור הקיימים. הוקמו והתבססו מכונים חדשים והוגדל היקף היצור של מרגמה "3 והרימון 'הפולני'. באביב 1940, עם פרישתו של עמיר מתפקידו, הקיף תעש שבעה מכונים ו-50 עובדים קבועים והמהנדס חיים סלאבין מונה למנהל התעש.

בשנות מלחמת העולם השניה נפסקה פעילות הרכש. חשיבותו של התעש גברה והוא התפתח באופן מזורז. המהנדס חיים סלבין מונה למנהל תעש השני ובהנהגתו הקימו צוותים של עובדים, טכנאים ומהנדסים מפעלים חדשים, משרדים טכניים ומעבדות במקומות שונים בארץ, בעיר ובכפר. תעש היה למפעל תעשייתי המייצר לפי סדרות, שיטות, סטנדרטים, נהלים ותקציבים כמקובל בתעשיה. עובדי התעש היו חברי 'הגנה', שנבחרו לעבוד במכונים השונים ואשר עבדו בתנאי מחתרת, תוך שמירת סודיות גם מפני חבריהם בארגון. במפעלי התעש יוצרו חומרי נפץ, רימונים, פצצות מרגמה, מרגמות, נפצים וחלקי חילוף לכלי נשק. בהמשך יוצרו קנים לרובים ומקלעים ולבסוף תת מקלעים שלמים מסוג 'סטן'. בתום המלחמה כלל התעש 12 מכונים שבהם עבדו כ-200 איש.

במארס 1944 פרש סלאבין מניהול התעש והוחלף על ידי איסר בארי (בירנצוויג). בתקופת כהונתו הקצרה של בארי הושקעו המאמצים בשמירה על הקיים וקצב התפתחות הואט. בתחילת 1945 התמנה יוסף אבידר (רוכל) למנהל התעש. בתקופתו הוגדל מספר מכוני היצור, הוגבר ייצור תת מקלע סטן והוקם מכון איילון לייצור כדורי 9 מ"מ. במפעל זה, ששכן באולם תת קרקעי בגבעת הקיבוצים ליד רחובות, שפתחיו הוסוו כמאפיה וכמכבסה, יוצרו עד מלחמת העצמאות שניים ורבע מיליון כדורים. עם סיום תפקידו של אבידר  בשנת 1946 נתמנה יוסף יזרעאלי למנהל התעש.

בשנת 1947 חזר חיים סלבין לארץ, לאחר שרכש בארצות-הברית קווי ייצור של תחמושת ונשק ממפעלים אמריקניים שהושבתו בתום מלחמת העולם השניה. סלבין, שמונה בשנית למנהל תעש, הקים בעזרת קווי היצור שרכש בית חרושת לתחמושת בגבעת רמב"ם ליד תל-אביב. היתה זאת תוספת חשובה לתעש, לאחר שבשנת 1947 חיסלו הבריטים שניים ממפעליו הגדולים. בתקופה זו אורגן תעש מחדש: מפל"ן - מפעלים לייצור נשק, ומפל"ת - מפעלים לייצור תחמושת, נשארו בהנהלת סלבין, בעוד המפכ"ם - המפעלים הכימיים, בכללם המפעלים לחומרי נפץ והדף וכן ייצור מאיצים וחומרים כימיים, הועברו לניהול אשר שוויגר-שמגר ושלמה בוגרד.

ערב מלחמת העצמאות הוגבר קצב העבודה, ומפעלי ההתעש סיפקו לכוחות ה'הגנה' חלק נכבד מהנשק והתחמושת שנדרשו להם. עד סוף מאי 1948 הושלם ייצורם של עשרת אלפים תמ"תים ומדי חודש יוצרו כחצי מיליון כדורים עבורם. הוחל בייצור פצצות אוויר למטוסי הפרימוס, מטולי פיא"ט נגד טנקים ומרגמות 'דוידקה', שהיוו את הנשק הכבד בחודשים הראשונים של מלחמת העצמאות. מספר עובדי תעש ערב המלחמה היה כ-300 ולקראת סיומה עלה לאלף.למרות המגבלות והאמצעים הדלים הייתה תרומתו של התעש למלחמת העצמאות חיונית ביותר ולעיתים אף מכרעת.

לאחר קום המדינה המשיך 'תעש' להתרחב ולהתפתח והיה לאחד ממפעלי התעשייה הגדולים ולאחד מעמודי התווך בפיתוח ויצור מערכות הנשק של ישראל. במהלך השנים הפכה תעש מיצרנית כלי נשק ותחמושת בסיסיים לחברה בטחונית מובילה, אשר מפתחת ומייצרת פתרונות מערכתיים לרבות מערכות הנעה לחלל. תעש הינה חברת היי-טק העוסקת במגוון תחומים בחזית הידע הטכנולוגי העולמית ומספקת ללקוחותיה בארץ ובעולם מבחר ייחודי של פתרונות מערכתיים, המותאמים לדרישות המבצעיות המשתנות של צרכי הביטחון בעולם. בשנים האחרונות מכרה תעש למעלה מ-50% ממוצריה בחו"ל.    

חטיבות התעשיה הצבאית הן:
חטיבת מערכות חימוש - מייצרת תחמושת לטנקים וארטילריה, חימוש אוויר-קרקע ומערכות נשק לחי"ר.
חטיבת מערכות יבשה (סלבין) - עוסקת בחידוש והשבחה של טנקים ורק"מ (רכב קרבי משוריין).
חטיבת מערכות הנעה רקטית ופירוטכניקה (גבעון) - מפתחת ומייצרת מערכות הנעה רקטית, החל ממערכות לטילים נגד טילים, דרך משגרי לווינים, רקטות ארטילריות ועד מטולים אישיים. החטיבה מספקת פתרונות מערכתיים בתחומי מערכות ארטילריה רקטיות וחליפות הגנה למסוקים.
חטיבת מערכות מתקדמות (מלט"מ) - מספקת מגוון פתרונות אוויריים חדשניים שכוללים טילים מנגד לפגיעה נקודתית, מפזרי חימוש גולשים, גלשני הטעייה ואימונים.
חטיבת התחמושת הזעירה (יצחק) - נמנית עם יצרני התחמושת המובילים בעולם.

מקום המדינה ועד 1990 שנת הייתה תעש יחידת סמך של משרד הביטחון. בשנת 1990 שונה מעמדה לחברה ממשלתית, ומאז היא נתונה במשבר מתמשך. למרות תוכנית לייצוב החברה שהופעלה בשנת 2003 ובמסגרתה ננקטו צעדי ייעול (שכללו מכירת מפעלים וסגירתם; צמצום מצבת העובדים; הפחתת שכר) ותעש קיבלה סיוע ממשלתי, לא השתפרו התוצאות העסקיות והמשבר בחברה נמשך. בשנת 2005 החלה ממשלת ישראל בתהליך של הפרטת תעש.