נולד באוקראינה וגדל בכפר קטן הסמוך לקרמנצ'וג. בעקבות 'הסופות בנגב' הצטרפה משפחתו ל'חובבי ציון' ועלתה ארצה בשנת 1882. אביו, יהודה לייב, היה ממייסדי ראשון לציון. בשנת 1887 עברה המשפחה לגדרה בעקבות סכסוך עם פקידי הברון רוטשילד בראשון לציון. יהושע חנקין נישא שם לאולגה בלקינד, שליוותה אותו ותמכה בו בכל מפעליו. הוא עבר ליפו והחל לפעול לרכישת אדמות מערבים ומכירתן לצורך התיישבות יהודית. להצלחתו תרמו היכולת שלו לפתח קשרים טובים עם בעלי קרקעות ערביים ופלחים וההיכרות שלו עם שפתם ומנהגיהם.

בשנת 1890 רכש את אדמות דוראן, עשרת אלפים דונם שנמכרו לאגודת 'מנוחה ונחלה' ועליהן הוקמה המושבה רחובות. בשנת 1891 רכש שלושים אלף דונם של אדמות ביצות בשרון, שנמכרו למתישבים מרוסיה ועליהן הוקמה המושבה חדרה. בשנת 1897 ניסה לרכוש מבעל האדמות סורסוק את קרקעות עמק יזרעאל אולם הניסיון נכשל. בשנת 1909 רכש את אדמות פולה, עשרת אלפים דונם בעמק יזרעאל, שעליהן הוקמה מרחביה. ניסיון לרכוש אדמות נוספות בעמק יזרעאל נקטע כשפרצה מלחמת העולם הראשונה. בשנת 1915 הוגלה לתורכיה על ידי השלטונות העות'מאניים. בתום המלחמה שב לארץ ובשנת 1920 חידש את המשא ומתן לרכישת אדמות עמק יזרעאל. בתמיכת הקק"ל ובאישור הקונגרס הציוני ה-12 נרכשו 51,000 דונם והחלה תנופת התיישבות חדשה. באדמות אלו הוקמו עין חרוד, נהלל, תל יוסף ויישובים נוספים. מפעל רכישת אדמות עמק יזרעאל הקנה לחנקין את הכינוי 'גואל העמק'.

בשנות ה-20 קנה בעזרת ארגון ציוני קנדה את רוב אדמות עמק חפר. בשנת 1929 החל לרכוש אדמות בעמק בית שאן. בשנת 1932 התמנה למנהל החברה להכשרת הישוב ובמסגרת תפקידו המשיך לרכוש קרקעות. בשנים 1934-1933 רכש שטחים גדולים בנגב, השלים את גאולתו של עמק חפר עם רכישת ואדי קובני והצליח לרכוש את הזיכיון לאדמת החולה.

לאחר חמישים שנים של פעילות, היה חנקין לרוכש הקרקעות הגדול ביותר בארץ-ישראל. יותר ממליון דונם נגאלו בעזרתו, כשש מאות אלף מהם נרכשו ישירות על ידו. הוא רכש שטחים גדולים וגם קטנים בכל רחבי הארץ. הוא פעל בשליחותם של חברת הכשרת היישוב, המשרד הארצישראלי, יק"א, פיק"א וקק"ל, וכן גם ביצע רכישות של אדמות עירוניות עבור משקיעים פרטיים. בשנת 1945 נפטר בתל אביב ונטמן לצד רעיתו אולגה באחוזת הקבר שלו בהר הגלבוע מעל מעין חרוד.