בעקבות האירועים בתל חי ובירושלים בתחילת 1920 התחזקה בישוב היהודי ההכרה בצורך בקיומו של ארגון הגנה עצמית כלל ארצי. במאי 1920 התפרק ארגון 'השומר' והעביר את הטיפול בנושא הבטחון למפלגת הפועלים הגדולה ביותר דאז, 'אחדות העבודה'. ב-15 ביוני בוועידת המפלגה בחוות כנרת הוקם ארגון ה'הגנה'. לאחר הקמת ההסתדרות הכללית בדצמבר 1920 הועברה אליה האחריות על ה'הגנה'. במשך כעשר שנים היתה ה'הגנה' זרוע נוספת של ההסתדרות ורוב פעיליה השתייכו להתיישבות העובדת ולמפלגות הפועלים.

במאורעות מאי 1921 נמצאה ה'הגנה' בראשית התארגנותה. עם זאת, הצליחו התארגנויות מקומיות של ה'הגנה' להדוף את התוקפים הערבים בחלק מהישובים. בנובמבר 1921 בלמו כוחות ה'הגנה' התקפה נוספת של אלפי ערבים על העיר העתיקה בירושלים. בשנים 1928-1922 ניצלה ה'הגנה' את הרגיעה הבטחונית היחסית לגיוס חברים, התארגנות, אימונים והצטיידות בנשק ותחמושת (מרכש ומהתחלות של יצור עצמי). פעילות ה'הגנה' בשנים 1930-1920 נוהלה על ידי ועד מרכזי, שמונה על ידי ההסתדרות, ויוסף הכט שימש כמפקד הראשון של ה'הגנה'. אליהו גולומב היה פעיל מרכזי בארגון ונחשב למנהיג הבלתי מוכתר של ה'הגנה', עד לפטירתו בשנת 1945.

במאורעות תרפ"ט (1929) בישובים, שבהם היו כוחות ה'הגנה' ערוכים ומצויידים, נהדפו התוקפים בהצלחה. המאורעות הוכיחו שוב את חשיבות קיומה של ה'הגנה' ובעקבותיהם הפכה ה'הגנה' לארגון המגן הכללי של הישוב ועברה למרותם של המוסדות הלאומיים (הוועד הלאומי והסוכנות היהודית). הוועד המרכזי הוחלף במפקדה ארצית (מ"א) פריטטית עם נציגות שווה לתנועת העבודה ולחוגי המרכז והימין. בשנות ה-30 חוזק מרכז ה'הגנה' על חשבון העצמאות שהיתה בעבר לסניפים וכן החל טיפול בנושא התחבורה בין הישובים בעתות חירום. הושקעו מאמצים גדולים ברכישת נשק ותחמושת. הוקמו וחוזקו זרועות של ה'הגנה' כמו המודיעין, הקשר והתעש.

עם פרוץ מאורעות 1939-1936 ('המרד הערבי') הגיבה ה'הגנה' בתחילה בדרך המקובלת: התבצרות בישובים והתגוננות. בהמשך ננקטה טקטיקה חדשה: 'יציאה מן הגדר' ותקיפת הפורעים בבסיסיהם ובישוביהם. פעילותן של היחידות שנקטו בגישה ניידת והתקפית זו - ה'נודדת', ולאחר מכן פלוגות השדה (פו"ש) וחיל השדה (חי"ש) - סימנה מפנה במדיניות ה'הגנה' ומעבר מהגנה פסיבית לאקטיבית. בתקופת המאורעות גויסו למשטרה הבריטית אלפי נוטרים עבריים, רבים מהם חברי ה'הגנה'. הנוטרים עברו אימונים, החזיקו נשק בגלוי וביצעו משימות עבור ה'הגנה' תוך שימוש במסווה החוקי.

כלקח מהמאורעות הוקם בשנת 1939 מטכ"ל צבאי, שכפוף למפקדה הארצית. בראש המטכ"ל עמד יעקב דורי (הוחלף על ידי יצחק שדה משלהי 1945 עד מחצית 1947). בפיקוד ה'הגנה' הוקמו מחוזות מרחביים, בנוסף לשלושת המחוזות העירוניים (ירושלים, תל אביב וחיפה). וכן הוקמו לשכת הדרכה מרכזית (לה"ד), שירות הקשר ושירות המודיעין (ש"י).

ב'ספר הלבן' שהתפרסם באביב 1939 הוטלו מגבלות על העליה ונאסרה רכישת קרקעות והרחבה של ההתיישבות היהודית. ה'הגנה' נערכה לראשונה למאבק נגד הבריטים, אולם עם פרוץ מלחמת העולם השנייה עברה לשתף פעולה עמם במאבק בגרמניה הנאצית. במהלך המלחמה התגייסו רבים מחברי ה'הגנה' לצבא הבריטי, שירתו ביחידותיו השונות ורכשו נסיון צבאי. ה'הגנה' סיעה לבריטים בתחום המודיעין ושיגרה צנחנים לאירופה הכבושה. במקביל חיזקה ה'הגנה' את כוחותיה בארץ ישראל והתארגנה לפעילות בהיקף ארצי למקרה של כיבוש הארץ בידי הגרמנים. בתחילת המלחמה הוקמו: החי"ש (חיל השדה), שהקיף אלפי צעירים שאומנו לפעולה ניידת באזוריהם; החי"ם (חיל המשמר), שנועד להגנה המקומית; הגדנ"ע (גדודי הנוער), שהכשיר את בני הנוער לשירות ב'הגנה'. כן הורחבה פעילותם של שירות הקשר, השירות הרפואי, שירות הידיעות (הש"י), התעש והחלה פעילותם של כוח אווירי וכוח ימי.

בסיועם של הבריטים הוקם הפלמ"ח, הכוח הצבאי הסדיר של ה'הגנה'. חברי הפלמ"ח עברו אימונים צבאיים מתקדמים, סיירו בארץ והשתתפו בפעולות מבצעיות שהוטלו עליהם. קיומו של הפלמ"ח התאפשר בזכות שילוב של אימונים בעבודה בקיבוצים. הפלמ"ח הופעל ברוב משימות המאבק נגד הבריטים, ובמלחמת העצמאות שימש ככוח הלחימה המרכזי.

ה'הגנה' פעלה בשני תחומים מרכזיים נוספים: ההתיישבות וההעפלה. מפרוץ מאורעות 1936 ועד פרוץ מלחמת העצמאות, הוקמו בארץ, לרוב בשיתוף ה'הגנה' או ביזמתה, כ-140 יישובים חדשים אשר השפיעו במידה משמעותית על גבולות המדינה היהודית העתידית. בשנת 1939 הוקם כשלוחה של ה'הגנה' 'המוסד לעלייה ב'', אשר מילא תפקיד מרכזי במפעל ההעפלה. כ-100 מבין 141 ההפלגות של אניות המעפילים, בוצעו על-ידי ה'הגנה' וכן כל ההעפלה היבשתית מארצות המזרח התיכון. בסך הכל הגיעו ארצה בדרכי 'הבריחה' וההעפלה למעלה מ-120 אלף יהודים, 80% מהם ביוזמת ה'הגנה' ובאמצעות שליחיה.

בתום מלחמת העולם השנייה התחדש המאבק של הישוב נגד הבריטים. מאוקטובר 1945 פעלה ה'הגנה' בשיתוף פעולה עם האצ"ל והלח"י במסגרת 'תנועת המרי העברי'. הפעולות הבולטות של ה'הגנה' בתקופה זו היו שחרור מעפילים ממחנה המעצר בעתלית ותקיפת תחנות משטרה, מתקני ראדאר, מסילות ברזל וגשרים. הבריטים הגיבו בתקיפות וב'שבת השחורה', ב-29 ביוני 1946, ערכו מצוד נרחב שבמהלכו נעצרו ראשי הישוב וחברי 'הגנה' ופלמ"ח רבים וכן הוחרם נשק של ה'הגנה'. לאחר פיצוץ מלון 'המלך דוד' בירושלים ביולי 1946 בידי האצ"ל פורקה 'תנועת המרי', ומאז צימצמה ה'הגנה' את פעילותה נגד הבריטים. עיקר המאמץ הוקדש להתיישבות, להעפלה ולבניית הכוח הצבאי לקראת המאבק צפוי עם הערבים. ה'הגנה' החלה להתארגן במבנה של חטיבת פלמ"ח, חמש חטיבות חי"ר מרחביות, חילות ושירותי עזר. ה'הגנה' נעזרה בהתארגנותה בנסיון ובכוח האדם של החייילים המשוחררים מהצבא הבריטי. כמו כן, הוגבר יצור אמצעי הלחימה במפעלי התעש והוגברו מאמצי הרכש במדינות שונות. שליחי ה'הגנה' פעלו במחנות העקורים באירופה ובמחנות המעצר בקפריסין, אירגנו את ניצולי השואה הצעירים, הכשירו ואימנו אותם .

ב-29 בנובמבר 1947 החליטה עצרת האו"ם על חלוקת ארץ ישראל והקמת מדינה יהודית. עם קבלת ההחלטה, פתחו ערביי ארץ ישראל במתקפה על הישוב היהודי, אשר סימנה את תחילתה של מלחמת העצמאות. מאז ועד להקמתו של צה"ל היוותה ה'הגנה' את הכוח הלוחם העיקרי שהגן על היישוב היהודי. בששת החודשים הראשונים של המלחמה הצליחה ה'הגנה' לגייס, לאמן, לצייד ולהפעיל כוח צבאי בן כ-50 אלף איש, שפעל ב-12 חטיבות (שבע חטיבות חי"ר: גולני, גבעתי, כרמלי, אלכסנדרוני, עציוני, עודד וקריתי; שתי חטיבות משוריינים: חטיבה 7 וחטיבה 8 ושלוש חטיבות פלמ"ח: הראל, יפתח והנגב) וכן גם גרעינים של חילות ים, אוויר, הנדסה, אחסון ואספקה. בשלב זה של המלחמה עסקה ה'הגנה' בשמירה על הישובים העבריים, בלחימה על צירי התנועה ובשבירת כוחם הצבאי של ערביי ארץ ישראל. במרץ 1948 החלה ה'הגנה' בישום 'תוכנית ד'', שבמסגרתה נעשו מאמצים להשתלט על כל השטח שהיקצה האו"ם למדינה היהודית, על גושי ההתישבות שמחוץ לשטח זה ועל מרחבים אסטרטגיים לקראת פלישה אפשרית של צבאות מדינות ערב.

ביום הקמת המדינה ב-15 מאי 1948 פלשו לארץ ישראל חמשת צבאות ערב. עד לסוף חודש מאי 1948 בלמו כוחות ה'הגנה' בלחימה קשה את הכוחות הפולשים. ב-1 ביוני 1948 הוקם צה"ל על בסיס 'פקודת צבא ההגנה לישראל' שפירסמה הממשלה הזמנית. המטכ"ל האחרון של ה'הגנה' היה למטכ"ל הראשון של צה"ל, רמטכ"ל ה'הגנה', יעקב דורי, היה לרמטכ"ל הראשון של צה"ל. היחידות השונות של ה'הגנה' היו לחילות צה"ל.