בתקופת עליה שניה התעורר בקרב הפועלים הצורך בהקמת התארגנות רחבה ואזורית שתענה על צרכיהם. הפועלים נזקקו למסגרות שתספקנה להם מידע על מקומות עבודה, שתסייענה למסגרות ההתיישבות החדשות (קבוצה, קואופרציה, מושבי פועלים), שתנהלנה קופות לעזרה הדדית ולסיוע רפואי, שתארגנה קליטתם של עולים חדשים ועוד. המסגרות המקומיות הקיימות לא ענו על צרכים אלה, ולכן הוקמו בשנת 1911 הסתדרויות אזוריות של פועלים: הסתדרות הפועלים החקלאיים בגליל והסתדרות הפועלים החקלאיים ביהודה. בשנת 1916 הוקמה מסגרת נוספת, הסתדרות פועלי השומרון. התארגנויות אלו התאימו לאינטרסים של מפלגות 'הפועל הצעיר' ו'פועלי ציון', שחבריהן שיתפו פעולה במסגרות המקומיות, ולשאיפתם של 'הבלתי מפלגתיים' לאיחוד תנועת הפועלים בארץ ישראל. שלוש ההסתדרויות האזוריות הקפידו על פעילות מקצועית-כלכלית בלבד, והותירו את הפעילות הפוליטית למפלגות. פעילותן של ההסתדרויות הכשירה את הקרקע להקמתה של הסתדרות העובדים הכללית בשנת 1920. במסגרת ההסתדרויות הונחו היסודות למפעלים הסתדרותיים חשובים: קופת חולים הכללית, קופת פועלי ארץ ישראל (קפא"י), לשכות העבודה ועוד.

לאחר מלחמת העולם הראשונה התחזקה בקרב אנשי תנועת הפועלים השאיפה לאיחוד הכוחות. בשנת 1919 הוקמה הסתדרות הפועלים החקלאים (ההסתדרות החקלאית) כאירגון ארצי של כלל הפועלים החקלאים. חברי 'הפועל הצעיר' לא הצטרפו להסתדרות זו. עם הקמתה של ההסתדרות הכללית בחנוכה תרפ"א (1920), התאחדו כל העובדים החקלאיים במסגרתה.