למד בישיבות טלז, קובנה ווילנה. הוסמך לרבנות במכון הגבוה ללימודי יהדות בברלין. למד היסטוריה באוניברסיטת ברן, ברלין וסנט פטרבורג. עלה ארצה בשנת 1921. היה מתושביה הראשונים של שכונת בית הכרם בירושלים. משנת 1923 לימד תנ"ך ותולדות ישראל בבית המדרש למורים בבית הכרם. בשנת ‏1936 שימש מרצה לתולדות ישראל בעת החדשה באוניברסיטה העברית בירושלים ובמקביל עסק במחקר. בשנים 1948-1938 ניהל את בית המדרש למורים. היה מורם ומדריכם של מאות מורים, מנהלים ומפקחים. בשנות פעילותו במוסד הנהיג שינויים וחידושים בחינוך ובהוראה. עמד בראש המכון לחקר היהדות בשנים 1946-1944. משנת 1948 נתמנה לפרופסור להיסטוריה יהודית באוניברסיטה העברית. כתב, ערך ופרסם ספרים רבים בתחומי התמחותו. החידוש בגישה ההיסטורית שלו היה הצבת רעיון שיבת ציון כציר המרכזי בהיסטוריה היהודית. היה ממייסדי כתבי העת המדעיים 'קרית ספר' ו'ציון'. כיהן כחבר כנסת מטעם מפא"י בכנסת הראשונה (בשנים 1951-1949) והיה חבר בוועדת החינוך, התרבות והספורט. כיהן כשר החינוך והתרבות בשנים 1955-1951. בתקופה זאת נחקקו 'חוק חינוך ממלכתי', שביטל את הזרמים התנועתיים-המפלגתיים במערכת החינוך, 'חוק המוסד העליון ללשון העברית' ו'חוק זיכרון השואה והגבורה יד ושם'. עמד בראש 'יד ושם' בשנים 1959-1953. בתום תפקידו כשר שב לעסוק במחקר. חתן פרס ישראל  לשנת 1958 במדעי היהדות ובפרס ישראל לשנת 1973 בחינוך.