נולד באוקראינה למשפחת משכילים שהיתה מקורבת לחובבי ציון, אך דגלה גם בהשתלבות בחברה הרוסית. גדל בפולטבה, למד בגימנסיה הרוסית וכמעט שלא קיבל חינוך יהודי. השלים את השכלתו בפילוסופיה, בסוציולוגיה, בכלכלה ובלשונות באמצעות לימוד עצמי. מגיל צעיר נטה אל תנועות השמאל ובשנת 1900 הצטרף לתנועה הסוציאל-דמוקרטית הרוסית. תנועה זאת סירבה להכיר בייחודה של הבעיה היהודית, ולכן ניסה לפתח תאוריה של לאומיות יהודית, שאינה עומדת בסתירה לסוציאליזם. בשנת 1901 הקים אגודה ציונית-סוציאליסטית, שעסקה בהגנה על זכויות העובד היהודי. בהשפעתו של מנחם אוסישקין נטה לציונות המעשית, מבלי לוותר על השקפותיו הסוציאליסטיות. בתקופת הוויכוח בשאלת אוגנדה פירסם את מאמרו 'לשאלת ציון וטריטוריה', שבו הניח את היסודות לציונות הסוציאליסטית. בשנת 1905 עבר לברלין למטרת לימודים, השתתף בקונגרס הציוני ה-7 בבאזל והיה מראשי הדוברים של 'ציוני ציון' שהתנגדו ל'תכנית אוגנדה'.

בסוף שנת 1905, בעקבות התפרצות פרעות ביהודים בתחום המושב, חזר לרוסיה כדי להשתתף ב'הגנה העצמית'. הצטרף בפולטבה לקבוצה של 'פועלי ציון' ונעשה במהרה למנהיגה. בשנת 1906 השתתף בוועידת פולטבה, שבה התאגדו לראשונה נציגי הארגונים המקומיים והאזוריים של 'פועלי ציון' נאמני ארץ ישראל למפלגה אחת. בסיוע חברים נוספים ניסח את מצע המפלגה המשלב ציונות ומארקסיזם. בעקבות רדיפות ומעצרים מצד המשטרה הרוסית הועבר מרכז המפלגה לווילנה. בְּרוּכוֹ ב, שנאסר בשל פעילותו, הוברח לגליציה ושם המשיך בפעילותו הציבורית. בשנת 1907 השתתף כנציג 'פועלי ציון' ברוסיה בוועידה בהאג שבה הוקמה 'הברית העולמית של פועלי ציון'. ברוכוב השתתף בוועידה כנציגם של 'פועלי ציון' ברוסיה, נבחר לראש הלשכה המרכזית וכיהן בתפקיד עד מותו. באותה שנה השתתף בקונגרס הציוני ה-8 בהאג, שאחריו פרשו 'פועלי ציון' הרוסים מההסתדרות הציונית. בשנים הבאות הקדיש את מרצו לחיזוק 'הברית העולמית של פועלי ציון' ובשנים 1910-1907 ערך את ביטאון המפלגה שהופיע בווינה. ברוכוב גילה התעניינות מיוחדת בפעילותם של הפועלים הציוניים בארץ ישראל והתייחס באהדה לשאיפתם להפוך מפועלים שכירים לחברי משק קואופרטיבי. היה ממייסדיה ומנהליה של 'קופת פועלי ארץ ישראל '.

כשפרצה מלחמת העולם הראשונה עבר לארצות הברית, שם כתב וערך עיתונים יהודיים והיה פעיל בארגון 'פועלי ציון' האמריקאי. היה לו גם תפקיד חשוב בהקמת הקונגרס היהודי אמריקאי והקונגרס היהודי העולמי. אחרי פרוץ מהפכת פברואר 1917 ברוסיה, התעוררו תקוות חדשות ביחס לעתיד היהודים במדינה. ברוכוב חזר לרוסיה ועזר לנסח את דרישותיהם של היהודים לאחר המלחמה. במהלך אותה שנה פעל לאיחוד הפלגים השונים של 'פועלי ציון' ברוסיה. במהלך פעילותו לקה בדלקת ריאות ונפטר בקייב בדצמבר 1917, כשהוא בן 36 בלבד. בשנת 1963 הועלו עצמותיו לארץ ונקברו בקבוצת כנרת לצד הוגים ומנהיגים נוספים של תנועת העבודה.

ברוכוב פיתח תיאוריה של סוציאליזם יהודי, שמבססת את הציונות על יסודות מרקסיסטיים. לפי גישתו שורש הבעייה של העם היהודי בגולה הוא שאין לו טריטוריה משלו ולכן הוא נדחק מענפי הכלכלה הראשיים (חקלאות, מחצבים, תעשיות יסוד) אל המקצועות המשניים (מסחר, תיווך, פקידות, מלאכה). כחלק מתהליך זה נדחקים הפועלים היהודים מהמקצועות היצרניים לעיסוקים משניים ולא יצרניים. בכלכלה הקפיטליסטית משקלם היחסי של הענפים המשניים הולך פוחת. כתוצאה מכך נחלשת הפרודוקטיביות של העם היהודי והפרולטריון היהודי אינו יכול להגיע לגיבוש חברתי ומדיני של ממש. בלחצם של עמי הרוב נדחפים ההמונים היהודיים, ובכללם הפועלים היהודים, לתהליכים מקבילים של עזיבת עמדות היסוד בכלכלה והגירה לארצות חדשות. אולם, ההגירה אינה פתרון לבעייה היהודית, מכיוון שהבעייה תיווצר מחדש בארצות ההגירה החדשות. בסופו של דבר יווצר תהליך הגירה סטיכי שבו ידחקו היהודים לארצות נחשלות, כמו ארץ ישראל. בניגוד ליעדי הגירה אחרים, בארץ ישראל שאוכלוסיתה דלילה לא צפויים היהודים להתקל בהתנגדות מאורגנת לבואם. התרכזות היהודים בארץ ישראל תביא להגשמת הציונות ולהגשמת הסוציאליזם. כאשר ירוכזו היהודים בטריטוריה משלהם בארץ ישראל, תבנה הבורגנות היהודית משק קפיטליסטי שבו תתפתח מלחמת המעמדות בין הבורגנות היהודית לפרולטריון היהודי.

בשנות חייו האחרונות חל שינוי בדיעותיו של ברוכוב. הוא ראה באור חיובי את השאיפה לציון בזכות הקשרים ההיסטוריים והרוחניים ולא רק בזכות היותה בסיס אפשרי ליצירת פרולטריון יהודי עצמאי. הוא הפסיק להשתמש במונח 'פלשתינה' ועבר לדבר על 'ארץ ישראל'. במקום להסתמך על 'הגירה סטיכית' עבר לתמוך ב'עליה חלוצית'. ברוכוב נאבק גם על השתתפותם של 'פועלי ציון' בהסתדרות הציונית העולמית.

תורתו של ברוכוב השפיעה עמוקות על הציונות הסוציאליסטית ברוסיה ומחוצה לה והנחתה זמן רב את 'פועלי ציון' ו'אחדות העבודה' בארץ. תנועת העבודה הארצישראלית הושפעה, בסופו של דבר, יותר מן הסוציאליזם הקונסטרוקטיבי בנוסח נחמן סירקין מאשר מן הסוציאליזם המרקסיסטי של ברוכוב, אך תרומתו החשובה של ברוכוב היתה שרעיונותיו איפשרו לרבים מבני הנוער היהודי הציוני, שהזדהו עם עיקריה של התורה המרקסיסטית, לשלב את הציונות עם המרקסיזם.

ברוכוב היה גם חוקר חשוב של שפת היידיש ופירסם בשנת 1913 עבודה מקיפה על יסודותיה הבלשניים. וכן כתב על שפת היידיש באנציקלופדיה היהודית-רוסית בעריכת יהודה ליב בנימין קצנלסון.