להקמת "ברית פועלי ארץ-ישראל" קדמו מספר נסיונות של הפועלים הערבים להתארגן. הניסיון הראשון היה בשנת 1922. פועלי הרכבת הערביים התארגנו יחדיו. כמה שנים אחר-כך, ב- 1925, נוסד "קלוב הפועלים הכללי" בחיפה, שכלל בתוכו כ-250 פועלים ערבים. בועידה השלישית של ההסתדרות הוחלט על הקמת הברית לאור ה"צורך בשיתוף פעולה של הפועלים היהודים והערבים בענינים החיוניים המשותפים להם."

הלשונות הרשמיות של הברית היו עברית וערבית. היה בכך רמז לגבי השאיפה לברית בין-לאומית. ברית זו התבססה על חטיבות לאומיות אוטונומיות. כל חטיבות הברית העבריות היו חלק אורגני מההסתדרות הכללית וכל שאר החטיבות הלאומיות - קרי החטיבות הערביות - היו רשאיות אף הן להתאחד להסתדרות כללית, עצמאית בתוך הברית. בשנים 1943- 1947 הצליחה הברית לארגן מספר ניכר של שביתות, שמטרתן היתה לשפר את תנאי חבריה הערבים.

עם קום המדינה שונה שמו של הארגון ל"ברית פועלי ישראל" והיקף פעילותה גדל. היא פנתה לטפל בנושאים כגון פיתוח האיגודים המקצועיים, בניית קואופרציות, תרבות וארגוני נשים בציבור הערבי. בשנת 1952 החליטה מועצת ההסתדרות לאשר קבלת פועלים ערבים לאיגוד המקצועי הכללי ולהכליל אותם בלשכת העבודה הכללית. בכך למעשה, חדלה ה"ברית" להתקיים. בשנת 1959 החליטה מועצת ההסתדרות לפתוח את יתר מוסדות ההסתדרות בפני הפועלים הערבים ובכך בעצם הושלם תהליך הקמת מסגרת ארגונית אחת לכל פועלי ישראל.