קיבל חינוך יהודי מסורתי ב'חדר' ובישיבה. בגיל צעיר הצטרף למפלגת 'פועלי ציון' ומילא בה תפקידים שונים. בשנת 1903 השתתף ב'הגנה העצמית' ברוסיה. בשנת 1905 עלה ארצה ועבד כפועל במושבות השומרון והגליל. בשנת 1907 היה ממייסדי ארגון 'בר גיורא', עבר עם קבוצה מאנשי הארגון לסג'רה, והשתתף שם בהקמת 'הקולקטיב' הראשון של אנשי העלייה השנייה. באותה שנה היה גם ממייסדי ארגון 'החורש'.

בשנת 1909 היה ממייסדי ארגון 'השומר'. שימש בתפקידים מרכזיים בארגון והיה ממקימי 'לגיון העבודה'. בשנת 1913, אחרי נסיעתו של ישראל שוחט ללימודים בקושטא, היה למנהיג 'השומר'. ערב מלחמת העולם הראשונה עלה עם חברים מהארגון להתיישב בתל עדש. בהמשך התעוררו סכסוכים בקרב המתיישבים, ובספטמבר 1915 הוחלט שגלעדי וחבריו יעזבו את המקום. הוא התפטר מתפקידיו בוועד 'השומר' ויחד עם שמונה מחבריו קיבל את השמירה במסחה. לא ויתר על שאיפתו להקים יישוב של קבע, ובאוקטובר 1916 עלה עם אנשיו למטולה. בלילה הם שמרו על המושבה וביום הקימו בסמוך יישוב משלהם, כפר בר גיורא. באוקטובר 1917 נאסר גלעדי וכמה מאנשיו באשמת סיוע לארגון ניל"י. כעבור זמן קצר הוא שוחרר, אך הכפר נהרס. במאי 1918 חזרו המתיישבים למקום והקימו את היישוב מחדש. אחרי שיחרורו מהמאסר חזר גלעדי לארגון 'השומר' וחידש את פעילותו בוועד ובהנהלת הארגון. אחרי המלחמה בעקבות חילוקי דיעות שהתעוררו בין 'השומר' לבין מרכז  'פועלי ציון' נאלץ לפרוש מהמפלגה שאליה היה קשור שנים רבות. באוקטובר 1918 נערכה בטבריה אסיפה של ארגון 'השומר'. ביזמתו של גלעדי החליטה האסיפה לתמוך בהתנדבות לגדוד העברי. משם המשיך לאסיפה של פועלי הגליל בכנרת. בכנרת הוא חלה בשפעת הספרדית ונפטר מהמחלה בגיל 32. אחרי מותו הוחלף שמו של כפר בר גיורא לכפר גלעדי.

גלעדי היה ממעצבי דמותו של ארגון 'השומר'. לפי השקפתו תפקיד הארגון היה להיות חלוץ וסולל דרך בהגשמתה של הציונות הסוציאליסטית. הוא דרש שהארגון יקח על עצמו משימות של מאבק וכיבוש, כגון כיבוש העבודה העברית וההתיישבות בספר. הוא דרש שלארגון יצטרפו רק חברים ראויים ובעלי רקע רעיוני ותנועתי מתאים. דרישות דומות ביקש להנהיג ביחס להצטרפות לכפר בר גיורא. לצד היותו איש מעשי בעל עקרונות נוקשים, היה גלעדי עבור אנשי 'השומר' איש מצפון ומורה דרך אשר תמך בהם וסייע בעת הצורך.