בשנת 1920, בוועידה החמישית של 'הברית העולמית של פועלי ציון' בווינה, התעוררה מחלוקת בין המשתתפים בנושא ההצטרפות לאינטרנציונל הקומוניסטי (הקומינטרן), היחס לסוציאליזם בברית המועצות והקשר עם ההסתדרות הציונית. המחלוקת גרמה לפילוג התנועה לשני פלגים: ימני ושמאלי.

הפלג שמאלי, שנקרא מעתה 'פועלי ציון שמאל', שלל כל קשר עם ההסתדרות הציונית ודגל אך ורק במלחמת מעמדות ובהגירה סטיכית לארץ ישראל. לפלג זה, בהנהגתם של נחום ניר ויעקב זרובבל, השתייכו רוב מפלגות 'פועלי ציון' ברוסיה, פולין ואוסטריה. 'פועלי ציון שמאל' רצו להצטרף לקומינטרן, אולם הם נדרשו לוותר על הארגון העולמי שלהם, להצטרף למפלגות הקומוניסטיות הארציות ולוותר על תוכניותיהם הקשורות לארץ ישראל. 'פועלי צין שמאל' לא קיבלו את הדרישות, ויתרו על ההצטרפות לקומינטרן, אך המשיכו לראות עצמם כחלק מהתנועה הקומוניסטית העולמית. רבים מהתנועה ויתרו במהלך השנים על הציונות ועברו לתנועה הקומוניסטית. 'פועלי ציון שמאל' המשיכו להתקיים באופן עצמאי תוך פילוגים, איחודים וחילוקי דיעות פנימיים בנוגע לאוריינטציה כלפי הציונות, ארץ ישראל, הלשון והתרבות העברית. במרוצת השנים השתנתה העמדה השלילית כלפי הציונות. בשנת 1937 חזרה התנועה להסתדרות הציונית, ובשנת 1939 החלה להשתתף בקונגרס הציוני, אך כוחה שם היה מועט.

בשנת 1923 הוקם הסניף הישראלי של 'פועלי ציון שמאל'. חברי המפלגה היו אנשי 'פועלי ציון' שלא הצטרפו ל'אחדות העבודה' ועולים חדשים. התנועה דגלה במלחמת מעמדות, התנגדה לשיתוף הפעולה עם ממשלת המנדט 'האימפריאליסטית' ושללה את המאבק לעבודה עברית. בשנת 1928 התפלגה התנועה בשל הוויכוח בנושא טיפוח היידיש והשימוש בה במסגרת הפעילות התנועתית. בשנת 1931 התאחדו הפלגים, ובשנת 1934 התרחש פילוג נוסף. בתחילת שנות ה-40 התנגדה המפלגה לתכנית בילטמור ותמכה בהקמת מדינה דו-לאומית. בשנת 1944 השתתפה המפלגה בבחירות לאספת הנבחרים במסגרת 'חזית השמאל' יחד עם 'השומר הצעיר' ו'הליגה הסוציאליסטית'. בשנת 1946 התאחדה המפלגה עם 'התנועה לאחדות העבודה' והקימה עימה את 'לאחדות העבודה-פועלי ציון'. בשנת 1948 ייסדה מפלגה זו ביחד עם 'השומר הצעיר' את מפ"ם. בשנת 1954, לאחר הפילוג במפ"ם, נשארו חלק מחברי 'פועלי ציון שמאל' במפ"ם, בעוד שהאחרים הקימו שוב עם 'אחדות העבודה' את 'אחדות העבודה-פועלי ציון'.

בשנת 1965 הקימו 'אחדות העבודה-פועלי ציון' ומפא"י את 'המערך לאחדות פועלי ארץ ישראל' ובמסגרתו השתתפו בבחירות לכנסת ולהסתדרות הכללית. בשנת 1968 הקימה המפלגה יחד עם מפא"י ורפ"י את מפלגת העבודה הישראלית. כעבור כשנה הקימו מפלגת העבודה ומפ"ם את 'המערך' ובכך התאחדו שוב הפלגים השונים של 'פועלי ציון'.

'פועלי ציון שמאל' בוועידה הראשונה בתל-אביב, שנת תרפ"ד