בשנת 1938, על רקע חילוקי דעות בנוגע לדרכי הטיפול של ההסתדרות הכללית במשבר הכלכלי של סוף שנות השלושים התגבשה במפא"י, סביב קבוצת פועלים מתל אביב, סיעה אופוזיציונית שכונתה סיעה ב'. אנשי הסיעה מצאו תמיכה בקרב אנשי 'הקיבוץ המאוחד' והקימו איתם סיעה ארצית, אשר הקו הפוליטי שלה, בהתאם לרוחו של 'הקיבוץ המאוחד', היה פרו-סובייטי ורדיקלי יותר מזה של מפא"י. בשנת 1944 פרשה סיעה ב' ממפא"י והקימה את 'התנועה לאחדות העבודה'. בשנת 1946, התאחדה מפלגה זו עם 'פועלי ציון-שמאל' והוקמה 'התנועה לאחדות העבודה-פועלי ציון'.
בשנת 1948 התאחדה המפלגה עם מפלגת 'השומר הצעיר' והקימה את מפ"ם (מפלגת הפועלים המאוחדת). 'לאחדות העבודה-פועלי ציון' המשיכה להתקיים כחטיבה במפ"ם. בשנת 1954 התפלגה מפ"ם בשל חילוקי הדיעות בשאלת היחס לברית המועצות, היחס לבעיה הערבית ומדיניות הביטחון. סיבה נוספת לפילוג היו ההבדלים בין אנשי 'הקיבוץ המאוחד' לבין אנשי 'הקיבוץ הארצי'. אנשי 'לאחדות העבודה-פועלי ציון' פרשו ברובם ממפ"ם והקימו את 'אחדות העבודה-פועלי ציון' ואילו אנשי 'השומר הצעיר' נשארו במפ"ם.
'אחדות העבודה-פועלי ציון' דיברה במצעה על זיקה לתנועת הפועלים הבינלאומית המהפכנית, על אהדה מסויגת לברית המועצות, על אי הזדהות של מדינת ישראל עם אחת מהמעצמות הגדולות, על חופש המאבק המקצועי של הפועל השכיר, על דמוקרטיזציה של ההסתדרות הכללית ועל טיפוח התנועה הקיבוצית וההתישבות העובדת. בתחום הבטחוני דגלה המפלגה בחתירה לשלום ללא ויתורים טריטוריאליים תוך הפעלת הגנה יזומה. במהלך השנים הצטמצמו ההבדלים האידיאולוגיים ועמדותיה של המפלגה הפכו קרובות מאוד לאלו של מפא"י. נותרו חילוקי דיעות בין המפלגות בנושא קיום הקשרים עם גרמניה המערבית והממשל הצבאי על ערביי ישראל ('אחדות העבודה-פועלי ציון' התנגדה לשניהם). מעבר לזה, נבעו הוויכוחים הפוליטיים הרבים בין המפלגות בעיקר מיריבויות אישיות (למשל בין יצחק טבנקין לדוד בן-גוריון) וממשקעים היסטוריים (עקב פילוג מפא"י בשנת 1944, פירוק הפלמ"ח ועוד).
מנהיגיה הבולטים של 'אחדות העבודה-פועלי ציון' היו טבנקין, ישראל גלילי, יגאל אלון, יצחק בן-אהרן, אהרן ציזלינג וישראל בר-יהודה ומשה כרמל. המפלגה הוציאה לאור את העיתון היומי 'למרחב'. 'אחדות העבודה-פועלי ציון' השתתפה בבחירות לכנסת והישגיה היו: בכנסת ה-3 (1955) - 10 מנדטים; בכנסת ה-4 (1959) - 7 מנדטים; בכנסת ה-5 (1961) - 8 מנדטים. המפלגה היתה שותפה בכל הקואליציות הממשלתיות שהוקמו בכנסות אלו. המפלגה השתתפה בבחירות להסתדרות והישגיה היו: בוועידת ההסתדרות ה-8 (1956) - 14.6% ; בוועידה ה-9 (1960) - 17.0%. בשתי ועידות אלה היתה 'אחדות העבודה-פועלי ציון' המפלגה השניה בגודלה אחרי מפא"י.
בתחילת שנות ה-60 החלו מגעים בין 'אחדות העבודה-פועלי ציון' למפא"י במטרה להגביר את שיתוף הפעולה בין המפלגות. בשנת 1965, במקביל לפרישת אנשי רפ"י ממפא"י, הקימו 'אחדות העבודה-פועלי ציון' ומפא"י רשימה משותפת בשם 'המערך לאחדות פועלי ארץ ישראל' (המכונה גם 'המערך הקטן'), ובמסגרתה השתתפו באותה שנה בבחירות לכנסת, להסתדרות ולרשויות המקומיות. בשנת 1968 התאחדו 'אחדות העבודה-פועלי ציון', מפא"י ורפ"י והקימו את 'מפלגת העבודה הישראלית'.