עם פרוץ מלחמת העולם הראשונה נקטה התנועה הציונית במדיניות של נייטרליות. עם זאת היו גורמים בתנועה שסברו כי עתידו של הישוב היהודי בארץ ישראל תלוי בשחרור ארץ ישראל משלטון התורכים וכי על היהודים לקחת חלק בלחימה לצידה של בריטניה.
בקרב אלפי המגורשים מארץ ישראל, ששהו במחנות במצרים, התארגן ועד פעולה בראשותם של זאב ז'בוטינסקי ויוסף טרומפלדור, אשר ביקש להקים יחידה יהודית לוחמת במסגרת הצבא הבריטי, שתשתתף בכיבוש הארץ מידי התורכים. הבריטים דחו את הרעיון, אולם הסכימו להקים יחידה של מתנדבים נהגי פרדות, שתפעל במשימות תובלה היכן שתידרש. ז'בוטינסקי דחה את ההצעה ונסע ללונדון להמשיך במאמציו, בעוד שטרומפלדור הסכים לה. בתחילת 1915 הוקם 'גדוד נהגי הפרדות' בפיקודו של הקולונל ג'ון פטרסון, כאשר טרומפלדור משמש כסגנו. בגדוד שירתו כ-560 מתנדבים יהודים, רובם ממגורשי ארץ ישראל והשאר יהודים תושבי מצרים. לאחר מחנה אימונים קצר נשלח הגדוד באפריל 1915 לחזית גליפולי שבתורכיה והופקד על הובלת אספקה ללוחמים. ביוני 1916, לאחר פינויו מגליפולי, ולמרות ההערכה לה זכה מצד הפיקוד הבריטי, פוזר הגדוד. 120 מאנשיו הועברו ללונדון והיוו בסיס לגדוד ה-38 שהוקם מאוחר יותר.
ז'בוטינסקי נסע לאנגליה ושם המשיך בפעילות נמרצת למען הקמת יחידה יהודית לוחמת בארץ ישראל. יוזמתו עוררה התנגדות רבה הן בציבור היהודי והן בשלטונות בריטניה. בשנת 1917, בעקבות האנטישמיות שעוררה נוכחותם של פליטים יהודים רוסים בבריטניה, החליטו השלטונות להקים גדוד יהודי מקרב הפליטים. תמיכתם של פוליטיקאים ועיתונאים בריטים ופעילותו של חיים וייצמן לקידום הנושא תרמו גם הם לקבלת ההחלטה. באוגוסט 1917 הוקם 'גדוד 38 של קלעי המלך', ולשורותיו גויסו יהודים נתיני רוסיה ששהו בבריטניה, וכן 120 וותיקי גדוד נהגי הפרדות. מפקד הגדוד הראשון היה הקולונל פטרסון, לשעבר מפקד גדוד נהגי הפרדות. הגדוד מנה כ-800 חיילים, שני שלישים מהקצינים היו יהודים ובהם גם ז'בוטינסקי. הגדוד עבר אימוני חיל רגלים בבריטניה ובמצרים וביוני 1918 הגיע לארץ ישראל והוצב
בקו החזית מצפון לירושלים. בספטמבר 1918, במערכה הסופית על הארץ, השתתף
הגדוד בקרב בבקעת הירדן ליד אום-שורט, מצפון ליריחו, ובחציית הנהר
מזרחה. לאחר מכן שימש זמן קצר כחיל מצב בעיירה א-סאלט שבעבר הירדן.
לאחר תום הקרבות הועסקו חיילי הגדוד בשמירה על מתקני צבא. גדוד זה היה היחיד מבין הגדודים
העבריים שהשתתף בשלמותו בלחימה.
גדוד עברי נוסף הוקם והתאמן בצפון אמריקה. יוזמו היה
פנחס רוטנברג, שהגה יחד עם ז'בוטינסקי את רעיון הגדודים העבריים ויצא בתחילת המלחמה לארצות הברית במטרה לפעול למען הנושא, אך ללא הצלחה. לאחר הצטרפות ארצות הברית למלחמה במארס 1917 התעוררה תנועת גדולה להתנדבות עממית. בין ראשיה היו שני גולים מארץ ישראל, דוד בן-גוריון ויצחק בן-צבי, ואליהם הצטרפו רבים מ'פועלי ציון' באמריקה. בסוף 1917 הסכימו הבריטים להקמת 'גדוד 39 של קלעי המלך', שיורכב ממהגרים יהודים שטרם קיבלו אזרחות בארצותיהם. לגדוד התנדבו למעלה מ-5,000 צעירים יהודים, רובם מארצות הברית והשאר מקנדה וארגנטינה. רבים מהמתנדבים היו חברי 'פועלי ציון' תנועת 'החלוץ'. המפקד היה הקולונל אליעזר מרגולין ובין החיילים - בן-גוריון ובן-צבי. לאחר מספר חודשי אימונים בקנדה ובאנגליה, עבר הגדוד למצרים. בקיץ 1918 השתתפו שתיים מפלוגות הגדוד במערכה
האחרונה בעמק הירדן, לצידו של גדוד 38. לאחר כיבוש גשר אום-שורט, עברה מחצית הגדוד אל הגלעד וכבשה את א-סאלט. חלק מאנשי הגדוד הגיעו לארץ ישראל רק לאחר שביתת הנשק.
לאחר כיבוש דרום הארץ בידי הבריטים בשלהי 1917, החלה התארגנות להקמת גדוד עברי נוסף מקרב תושבי האזור שנכבש. המתגייסים היו ברובם צעירים אקטיביסטים ממחנה הפועלים (בעיקר ממפלגת 'פועלי ציון'), אליהם הצטרפו בוגרי הגמנסיה הרצליה בתל אביב וצעירים מעטים מחוגי האיכרים. נושא ההתגייסות לצבא
הבריטי עורר מחלוקת בישוב. המצדדים העלו נימוקים לאומיים ומוסריים, בעוד שהשוללים חששו שהגיוס יסכן את היהודים בצפון הארץ, הנתונים עדיין בשלטון תורכי. המתנגדים העלו גם נימוקים פציפיסטיים וכן רצון 'לשמור על הקיים' מבלי לסכנו
בשירות בצבא. הצבא הבריטי בארץ ישראל התנגד בתחילה לרעיון, אך בעקבות פעילות פוליטית ציונית בלונדון, אישרו הבריטים ביוני 1918 את הקמתו של 'גדוד 40 של קלעי המלך'. ביולי 1918 נשלחו 700 מתנדבים ראשונים לאימונים במצרים. עם המתנדבים נמנו ברל כצנלסון, אליהו גולומב,
דב הוז, לוי אשכול, יעקב דורי ומשה סמילנסקי. לאחר כיבוש הגליל הצטרפו לגדוד 150 מתנדבים מהגליל וכן 108 יהודים ששוחררו מהשבי התורכי. מפקדו הראשון של הגדוד היה הקולונל האנגלי-יהודי פרדריק סמואל. המתנדבים קיוו להשתתף במערכה הסופית על ארץ ישראל, אולם עוד לפני שנשלחו לארץ ישראל הושלם כיבוש הארץ. בדצמבר 1918 הועבר הגדוד לארץ וחייליו עסקו בשמירה על שבויים ועל מתקנים.
לאחר כיבוש הארץ היוו הגדודים חלק חשוב מחיל המצב הבריטי בארץ. ההנהגה הציונית קיוותה כי הגדודים ימשיכו להתקיים ויהוו בסיס לצבא יהודי קבוע בארץ, אולם מפקדת הצבא הבריטי בארץ ישראל סברה אחרת. במהלך שנת 1919 הלכו הגדודים העבריים והצטמצמו בשל היערכות בריטית חדשה לאחר תום המלחמה, בשל רצונם של חלק מהחיילים, בעיקר
מאנגליה ומאמריקה, לשוב לארצותיהם ועקב חיכוכים בין החיילים ומפקדיהם בנושאי
משמעת וייחוד לאומי, וכן בשל רצון הפיקוד הבריטי בארץ-ישראל לצמצם את מצבת הגדודים ואת ערך התרומה הצבאית היהודית, במטרה למנוע עימותים עם הערבים. בסוף 1919, אורגנו מחדש היחידות
העבריות, חיילים רבים שוחררו והנותרים, רובם מהגדוד הארצישראלי, רוכזו בגדוד שנשא
את השם 'הגדוד הראשון ליהודה'. סמל הגדוד היה
מנורה בת 7 קנים עם הכתובת 'קדימה'. עם זאת, נמשך ההליך של הצרת צעדיו של הגדוד ופירוקו.
בקיץ 1920 פורק הגדוד רשמית, אם כי נותרו בו 30 מתנדבים שהתחייבו לשרת עד סוף מרס 1921. הם המשיכו בשירות גם לאחר מכן, והם שחשו לתל-אביב וסיעעו בהגנתה ב-1 במאי 1921 (מאורעות תרפ"א). מפקד הגדוד, אליעזר מרגולין, הגיע לתל-אביב בעקבות אנשיו והצטרף למגינים. מעשה זה של אחרוני החיילים ומפקדם שימש עילה לבריטים לחסל סופית את הגדודים העבריים.
הגדודים העבריים לא הגשימו את הציפיות המדיניות והצבאיות שתלו בהם, עם זאת היתה להם חשיבות רבה. הגדודים העבריים היוו הוכחה לנכונותו של העם היהודי להילחם על ארץ ישראל, והם היו שלב נוסף בבניתו של כוח המגן העברי. יוצאי הגדודים העבריים שימשו נדבך חשוב בבניית ה'הגנה' בשנים
הבאות, בשמשם כמפקדים וכמדריכים בסניפי הארגון, כשרבים מהם התמידו בפעילותם והגיעו לתפקידים בכירים. הניסיון הצבאי שנרכש במסגרת הגדודים, וגם רוח ההתנדבות, עבר מאוחר יותר לכוחות המגן העבריים שפעלו בארץ.