נולד ב-12 בפברואר 1904 בווארשה, פולין. בנעוריו הצטרף לתנועת 'השומר הצעיר' בווארשה. עלה לארץ ישראל בשנת 1920, בהיותו בן 16. עבד בניפוץ חצץ בכביש טבריה-צמח, בבניין בתל-אביב ובפרדסי פתח-תקווה. בשנת 1921 הצטרף ל'קיבוץ השומר הצעיר ב'',  ששהה בנהלל והשתתף בנית בית הספר החקלאי לצעירות מיסודה של חנה מייזל. עבר עם הקיבוץ לעפולה ועבד שם בבנין. אחרי כן עזב את הקיבוץ ועבד כאיש במה בתיאטרון 'האהל' ואחר כך בתיאטרון 'הקומקום'. הוא שב לקיבוץ בעפולה ונמנה עם  חברי קבוצת החלוץ שעלתה על הקרקע באבו שושה והקימה את קיבוץ משמר העמק. בשנת 1929 יצא בשליחות 'השומר הצעיר' לפולין ושם הכיר את אבקה (חווה) שמידברג, אשר עלתה לארץ, הצטרפה לקיבוץ והקימה עימו משפחה.

יוסף שרגאי עבד בלול וברפת, ובמשך שנים מילא את תפקיד גזבר הקיבוץ. היה איש תרבות ונודע בחיבתו לתיאטרון: כתב פיליטונים ומערכונים ונמנה עם מקימי הלהקה הדרמטית. הוא אהב לצלם ותיעד בכישרון רב את החיים בקיבוץ ובארץ - מאז רכש את המצלמה הראשונה שלו בווארשה בשנת 1918 ועד לשנותיו האחרונות. בשנת 1935 השתתף בתערוכת צילום קבוצתית בירושלים עם צלמים נוספים, בהם חמישה ממשמר העמק. נפטר בקיבוצו ב-3 באוגוסט 1994. גם אשתו, אבקה שרגאי (1998-1907), עסקה בשנים הראשונות לחברותה בקיבוץ בצילום.