לאחר פטירתו של בנימין זאב הרצל והסרת תוכנית אוגנדה מעל סדר היום של ההסתדרות הציונית התגברו חילוקי הדיעות בתנועה הציונית בין אנשי הציונות המדינית לבין אנשי הציונות המעשית. כפשרה, התגבשה גישה חדשה, הציונות הסינתטית, שביקשה לשלב בין הפעילות המדינית לפעילות המעשית.

באוגוסט 1907 החליט הקונגרס הציוני השמיני להקים נציגות קבועה של ההסתדרות הציונית בארץ ישראל, אשר תנהל את העבודה המעשית בארץ. בהתאם להחלטת הקונגרס נוסד ב-1 באפריל 1908 ביפו המשרד הארצישראלי. בראש המשרד עמד ד"ר ארתור רופין וכסגנו שימש יעקב טהון. המטרות העיקריות של המשרד היו הרחבה של רכישת הקרקעות ושל ההתיישבות החקלאית

המשרד הארצישראלי תרם תרומה חשובה להתפתחות מפעל ההתישבות בארץ ישראל. המשרד הקים וניהל את החוות הלאומיות בבן שמן, בחולדה ובכנרת, שבהן הוכשרו פועלים לעבודה חקלאית; תרם לפיתוח צורות חדשות של התיישבות השיתופית (הקבוצת הקטנה, הקואופרציה והמושב) באמצעות הסיוע למתישבי דגניה, כנרת ומרחביה; תמך בהתישבות העירונית (בהקמת תל אביב ושכונות חדשות בירושלים וחיפה); ייסד את החברה להכשרת היישוב שתפקידה לרכוש קרקעות ולהשביחן; ארגן בעלי הון להקמת אחוזות מטעים; תרם לפיתוח החקלאות העברית המודרנית באמצעות הכנסת שיטות עיבוד מודרניות וזנים חדשים של גידולים; סייע לעליה מתימן. בשנת 1916, במהלך מלחמת העולם הראשונה, גורש רופין מהארץ וטהון התמנה למנהל המשרד הארצישראלי.

לאחר מלחמת העולם הראשונה הועברו תפקידיו של המשרד הארצישראלי לוועד הצירים.