הסתדרות פועלי יהודה הוקמה בעקבות דרישתם של מתיישבי עין גנים ופועליי החוות הלאומיות בבן שמן ובחולדה להקים מסגרת ארגונית כללית של פועלים, שאיננה על בסיס מפלגתי. הנושאים שדחפו להקמת הסתדרות זאת היו הוויכוחים בנושא לשכות העבודה (ה'אינפורמציה') וקופת פועלי ארץ ישראל (קפא"י).

ביוני 1911 התכנסה בעין גנים הוועידה הראשונה של הסתדרות הפועלים ביהודה בהשתתפות 17 צירים. הוועידה נערכה, בהסכמתן של שתי מפלגות הפועלים, 'פועלי ציון' ו'הפועל הצעיר', ובהשתתפות נציגיהן. הנושאים שעלו לדיון בוועידה: א) פעילותם וארגונם של פועלי יהודה; ב) קפא"י; ג) יחסם של הפועלים לשיטת ההתיישבות של פראנץ אופנהיימר (הקואופרציה); ד) סיוע לפועל שנפגע בתאונת עבודה.

בדצמבר 1911 נערכה בפתח תקווה הוועידה השניה של פועלי ביהודה. החלטות הוועידה הביאו להרחבה משמעותית בפעילות ההסתדרות: הוכרה החשיבות העליונה של עבודת ה'אינפורמציה' בארץ ובחו"ל; הוקמה קופת חולים; הופעלו במושבות קבוצות קבלניות שעסקו בנטיעות; הוגברה השפעתה של ההסתדרות בקפא"י; הוקמו סניפים נוספים במושבות; הוקמה ספריה חקלאית ניידת.

בדצמבר 1912 נערכה בבן שמן הוועידה השלישית של פועלי יהודה בהשתתפות 34 צירים, שייצגו 260 חברים. בוועידה הוחלט על הצורך בהקמת מושבי פועלים על אדמת הלאום, על קידום העבודה הקבלנית במושבות, על הסדרת היחסים עם לשכת העבודה של קפא"י ועל אופי החברות בהסתדרות (פועלים חקלאיים שכירים וחברי מושבים שמקיימים חובת עבודה עצמית).

בדצמבר 1913 נערכה בראשון לציון הוועידה הרביעית של פועלי יהודה בהשתתפות 58 צירים, אשר ייצגו 400 חברים. בוועידה הוחלט על הרחבת ההתיישבות במושבים על אדמת קק"ל במימון מוסדות ישוביים ועל הקמת מושבי פועלים (משקי עזר) ליד המושבות והערים; הוגברה הפעילות לכיבוש העבודה במושבות ובחוות הפרטיות; נפתר הסכסוך עם לשכת העבודה של קפא"י.

בשנת 1915 נערכה הוועידה החמישית, אשר עמדה בסימן מלחמת העולם הראשונה והמשבר הכלכלי. הוחלט על הקמת 'ועד כלכלה', שידאג לארגון מחסן חיטה עבור פועלי יהודה. נערכו דיונים על דרכי הניצול היעילות של כספי 'הקרן האמריקאית'. הוחלט להקים ועדת ביקורת.

הוועידה הששית נערכה בפתח תקווה ועסקה בהפנית כספי 'הקרן האמריקאית' לעבודות ציבור יצרניות, בהקמת 'קרן עבודה' כמכשיר כספי עצמאי לציבור הפועלים ובהקמת ועדת תרבות שתפעל להפצת הלשון העברית ולהכשרה חקלאית. הוועידה קראה להקמתו של ועד פועל אחד אשר ירכז את הפעילות בשלוש ההסתדרויות האזוריות.

בשנת 1918, זמן קצר לאחר כיבוש דרום הארץ על ידי הבריטים, נערכה ברחובות הוועידה השביעית של פועלי יהודה. בוועידה נערכו דיונים על המשך דרכה של תנועת העבודה. בין ההחלטות החשובות של הוועידה היו הדרישה שכל האדמות הנגאלות בארץ ישראל תועמדנה לרשות הקק"ל כמוסד ציוני מרכזי והדרישה להקמת קרן ציונית למימון ההתיישבות. החלטות הועידה קבעו כי על ההסתדרות להרחיב את תחומי אחריותה ופעילותה לכל העניינים המשותפים לכלל ציבור הפועלים - כלכליים, רוחניים ואזרחיים וכן הוחלט על הקמתה של 'קרן עבודה'.

בשנת 1919 עם הקמת הסתדרות הפועלים החקלאיים, שפעלה במסגרת אחדות העבודה, הצטרפו אליה הפועלים שהשתייכו להסתדרות פועלי יהודה. הפועלים שהשתייכו ל'הפועל הצעיר' הצטרפו ל'ועדה החקלאית' שהקימה מפלגה זו.

עם הקמתה של ההסתדרות הכללית נכללו שתי המסגרות החקלאיות הללו כחטיבה מקצועית אחת בתוכה.