בשנת 1905 נרכשו אדמות חולדה על ידי קק"ל והוחלט לנטוע במקום יער לזכרו של בנימין זאב הרצל, שנפטר בשנת 1904. בשנת 1908 החלו העבודות וניטעו כרם זיתים, כרם גפנים ומטעי שקדים. אחרי כן הוקמה במקום חוות חולדה ונבנה בית מרשים, שנקרא 'בית הרצל'. בתחילה ניהל את החווה האגרונום לואי בריש, אך בשל חוסר ידע וניסיון רק כרבע מהשתילים שנשתלו במקום נקלטו. החווה עברה לניהולו של האגרונום יצחק וילקנסקי והיתה לחוות הכשרה חקלאית עם משק מעורב שהכשירה חלוצים להתיישבות. במהלך מלחמת העולם הראשונה נעזבה החווה. אחרי המלחמה נעשה ניסיון להקים במקום מושב עובדים, אך הניסיון לא הצליח וחולדה חזרה להיות חווה להכשרה חקלאית. בשנים אלו ניטעו באזור בעיקר עצי אורן, שנחשבו לגידול המתאים ביותר למקום. במאורעות 1929 הותקפה החווה על ידי ערביי הסביבה. אחרי עמידת גבורה שבמהלכה נהרג המפקד אפרים צ'יזיק פינתה המשטרה הבריטית את המקום. היער נשרף בידי הפורעים והחווה נחרבה.
בסוף שנת 1930 החלו להגיע למקום קבוצות מתנועת 'גורדוניה' ואחרי שנה התיישבה במקום קבוצת 'גורדוניה א'' מחדרה שאנשיה עלו מפולין, מגליציה ומלטביה. חברי הקבוצה שיקמו את היערות, את המטעים והשדות. בשנת 1937 עזבה הקבוצה את החווה ביער הרצל והקימה את הקיבוץ על גבעה סמוכה, שהיתה נוחה יותר למגורים ולפיתוח משק חקלאי. למייסדים הצטרפו קבוצת 'גורדוניה -שחריה' ממגדל וקבוצת 'ביצור' מנטעים.
במאורעות 1939-1936 הותקף המקום מספר פעמים על ידי כנופיות ערביות, אך הצליח להדפן. מבני החווה והיער היו למרכז אימונים של ה'הגנה' והמחצבה שבמקום היתה למטווח. בשנת 1943 ערכו הבריטים בקיבוץ חיפוש גדול אחר נשק של ה'הגנה'. היישוב שימש בסיס ליחידות הפלמ"ח ולחטיבה שבע. במלחמת העצמאות היתה חולדה הנקודה העברית האחרונה לפני הדרך לירושלים הנצורה. המקום שימש כבסיס התארגנות ויציאה לשיירות לירושלים ולכוחות שהשתתפו במבצע 'נחשון' ובקרבות על לטרון. חולדה היתה גם נקודת המוצא של 'דרך בורמה' ושל 'קו השילוח' שהעביר מים לירושלים הנצורה. במהלך המלחמה הופצץ הקיבוץ על ידי מטוסים עירקיים ומצריים.
באמצע שנות ה-80 נקלעה חולדה למשבר כלכלי וחברתי, שהתבטא בעזיבות רבות. בשנים האחרונות הונהגה בקיבוץ הפרטה מלאה עם ערבות הדדית.
ביער חולדה נמצא 'בית הרצל', שבו מוצגת
תערוכה על תולדות המקום. בחולדה נמצא ארכיון 'איחוד הקבוצות והקיבוצים', ארכיון התק"ם וארכיון 'גורדוניה-מכבי הצעיר'.