בשנת 1919 התאחדו 'פועלי ציון' בארץ ישראל עם 'הבלתי מפלגתיים' והקימו את 'אחדות העבודה'. חלק מחברי 'פועלי ציון' בחרו שלא להצטרף למפלגה המאוחדת, בעיקר בשל הטענה כי זנחה את מלחמת המעמדות. חלק מהם הקימו את 'פועלי ציון שמאל' ואחרים התארגנו במסגרת מפלגת הפועלים הסוציאליסטית (מפ"ס). חברי מפלגה זאת, אשר הזדהו עם סדר היום הקומוניסטי, קיימו בתחילה קשרים עם תנועת העבודה הציונית, ובמטרה להרחיב את שורותיהם, אף שינו שמה של המפלגה למפלגת פועלים סוציאליסטית עברית (מפס"ע). עיקר כוחה של המפלגה ובסיס פעילותה היה בקרב עולים חדשים, בעיקר בקרב הפועלים העירוניים. בדומה ל'אחדות העבודה' ו'הפועל הצעיר', בנוסף לפעילות האידיאולוגית, הקימה המפלגה אגודות מקצועיות משלה והצליחה לארגן במסגרתה אגודות חשובות יחסית, כגון 'אגודת הנגרים' ו'אגודת החייטים' ביפו. המפלגה יצרה לעצמה תדמית של ארגון לוחם שעיקר פעילותו הגנה על האינטרסים של ציבור הפועלים. הביטוי הבולט להצלחת המפלגה היה השתלטותה על ועד פועלי הרכבת, מהוועדים החשובים באותה תקופה, אשר יצג למעלה מ-400 פועלים יהודיים. המפלגה הצטרפה אל הפלג השמאלי של של הברית העולמית של פועלי ציון וביקשה להתקבל לקומינטרן. המפלגה השתתפה בוועידת היסוד של ההסתדרות הכללית. בבחירות לוועידה זכתה המפלגה ב-7% מהקולות ויוצגה על ידי ששה נציגים (מתוך 87 צירים בוועידה). בוועידה דרשו דוברי המפלגה שההסתדרות תפעל כהסתדרות מקצועית בלבד, ולא תעסוק בענינים כגון ציונות, עברית, שאלות תרבות וכו'. דרישתם לא התקבלה על דעת שאר חברי הוועידה.

הפגנת האחד במאי 1921 שיצאה מהמועדון של מפס"ע ביפו נתפסה על ידי ערביי העיר כפרובוקציה וגררה גל פרעות ביהודי יפו, המכונה מאורעות תרפ"א. לאחר המאורעות פסקה פעילותה של מפס"ע. הקשרים של המפלגה עם 'פועלי ציון' ועם השפה העברית, ולא התאימו למגמות החדשות הן בתנועה הקומוניסטית העולמית, ששאפה להרחיב את התנועה הקומוניסטית באמצעות שילובה במאבק האנטי-קולוניאלי, והן בתנועת הפועלים בארץ, שהצטיירה כרודפת את חברי הקבוצה. במקומה של מפס"ע קמו המפלגה הקומוניסטית הפלשתינית (פק"פ) והמפלגה הקומוניסטית בפלשתין (קפ"פ) שנלחמו זו בזו על הכרת הקומינטרן.