בשנת 1904 נקנו חלק מאדמות חדיתא-בית עריף על ידי בנק אפ"ק. שמו של המקום שונה ל'בן שמן' בעקבות הפסוק 'כרם היה לידידי בקרן בן שמן' (ישעיהו, ה', א'). בשנת 1905 הקים המהנדס נחום וילבוש במקום את בית החרושת לסבון 'חדיד'. בדצמבר 1905 הוקם בסמוך 'קרית ספר', מוסד חינוכי שבו למדו יתומי פרעות קישינב, ואשר פעל במקום במשך כשנה. בשנת 1907 מכר בנק אפ"ק את האדמות לקק"ל. בשנת 1908 החלה בסמוך נטיעת יער לזכרו של בנימין זאב הרצל (כיום - יער בן שמן). בשנת 1909 נמכרו גם האדמות והמבנים של 'קרית ספר' לקק"ל ובמקום הוקמה חווה להכשרת פועלים לנטיעות בהנהלת האגרונום יצחק וילקנסקי (וולקני). בשנת 1911, בסמוך לחצר החווה, הוקמה ביוזמתו של פרופ' בוריס שץ 'מושבת בצלאל', ישוב קטן של עולים מתימן שאמורים היו להתפרנס מצורפות ומחקלאות. בשנת 1913 ננטשה המושבה ובבתיה התיישבו פועלים מהחווה.

בימי מלחמת העולם הראשונה נשרף בית החרושת 'חדיד' והפסיק לפעול. החווה הפכה לחוות נסיונות חקלאיים והכשרת חלוצים. בשנת 1922 עם הקמת החווה לנסיונות חקלאיים ברחובות (לימים 'מכון וולקני'), החלה העברת החווה בבן שמן לאתר החדש. באותה שנה הקימו פועלי החווה הותיקים בשטח 'מושבת בצלאל' מושב עובדים. בשנת 1926 עם השלמת פינוי החווה פעל במקום משק פועלות, שעבר כעבור שנה לעיינות.  בשנת 1927 הקים ד"ר זיגפריד להמן בסמוך את כפר הנוער בן שמן. במאורעות 1929 ובמאורעות 1939-1936הותקפו המושב וכפר הנוער פעמים רבות.

במלחמת העצמאות היו הישוב וכפר הנוער נתונים במצור. המושב פונה מתושביו וכן גם החניכים הצעירים של כפר הנוער. אנשי ה'הגנה' בסיוע החניכים הבוגרים נשארו להגן על המקום. ביולי 1948 בעקבות כיבוש לוד במסגרת 'מבצע דני' הוסר המצור מבן שמן. החל משנת 1950 חלק מתושבי המושב חזרו אליו בהדרגה. בשנת 1952 נוסד על חלק מהשטחים של החווה החקלאית ושל מושב בן שמן הוותיק המושב החדש 'בן שמן', שאוכלס בעולים מרומניה. היישוב הוותיק כונה  'בן שמן שיכונים' ומאוחר יותר שונה שמו ל'כרם בן שמן'.