בתקופת העליה השניה החלו קבוצות של חלוצים, שעבדו רובם כפועלים חקלאיים שכירים, להתלכד בארגונים משלהם. בתחילה הוקמו ארגון 'החורש', שפעל בשנים 1909-1907, ו'לגיון העבודה', שפעל בשנים 1910-1909. לאחר מכן הוקמו הסתדרויות אזוריות של פועלים חקלאיים: הסתדרות הפועלים החקלאיים בגליל (1911), הסתדרות הפועלים החקלאיים ביהודה (1911) והסתדרות פועלי השומרון (1916).

בתום מלחמת העולם הראשונה התגברה השאיפה לאיחוד הכוחות של תנועת הפועלים. הוקם ועד שכלל את נציגי ההסתדרויות האזוריות ונציגים של 'פועלי ציון' ושל 'הבלתי מפלגתיים'. הוועד הכין את ועידת הפועלים החקלאיים, שנערכה בפתח תקווה בשנת 1919, ואשר בה הוחלט על הקמת הסתדרות ארצית אחת, 'הסתדרות הפועלים החקלאיים', או בקיצור - 'ההסתדרות החקלאית'. במסגרת ארצית זאת נכללו כל עובדי החקלאות בארץ, החברים בהסתדרות הכללית והעובדים במשקם העצמי (חברי קיבוצים ומושבים), וחקלאים זעירים חברי ההסתדרות במושבות. ההסתדרות החקלאית פעלה לקידום עניניהם של המתיישבים, להרחבת ההתישבות העובדת לצורותיה השונות ולקידום מעמדם ותנאי חייהם של החקלאים במושבות.

עם הקמת הסתדרות העובדים הכללית נכללה בה ההסתדרות החקלאית כהסתדרות מקצועית, בעלת מעמד מיוחד בזכות המספר הגדול של חבריה והמעמד הערכי והאיכותי שיוחס להתישבות העובדת. ההסתדרות החקלאית שימשה הן כאיגוד מקצועי של חבריה והן כמסגרת גג של משקי ההתישבות העובדת. עד שנת 1969 נכללו בה גם עשרות מועצות פועלים של ישובים שהיו בעבר מושבות חקלאיות.

ההסתדרות החקלאית מנוהלת באמצעות מוסדות נבחרים. חברי ההסתדרות בוחרים את נציגיהם לוועידה החקלאית המתכנסת אחת לארבע שנים. הוועידה, אשר מונה 501 צירים, מתכנסת אחת לארבע שנים ובוחרת את חברי המרכז החקלאי. המרכז החקלאי, אשר מונה 151 חברים, הוא הגוף הפועל של הסתדרות הפועלים החקלאיים. בראשו של המרכז החקלאי עומדת מזכירות כללית ובה 21 חברים.

מאז הקמת הסתדרות הפועלים החקלאיים ועד השנים הראשונות למדינה היה המרכז החקלאי מוקד כוח חשוב, בעיקר בזכות סמכותו ביחס לתנועות השונות של ההתיישבות העובדת ולמועצות הפועלים של המושבות. עם סיום הגלים הגדולים של ההתיישבות החקלאית, החלה ירידה במעמד החקלאות במשק והתחזקה חשיבותם של הגורמים הממשלתיים עבור החקלאים. כתוצאה מכך חל פיחות במעמדם של ההסתדרות החקלאית ושל המרכז החקלאי.