בשנית 1907 הוקם הארגון החשאי 'בר-גיורא' במטרה לכבוש את השמירה במושבות היהודיות. חברי הארגון היו ברובם פעילים לשעבר בהגנה העצמית ברוסיה וחברי מפלגת 'פועלי ציון'. הבולטים בהם היו: ישראל שוחט, יצחק בן-צבי, מניה שוחט, ישראל גלעדי ואלכסנדר זייד. אחרי שהצליחו לכבוש את השמירה במושבות סג'רה וכפר תבור, החליטו חברי 'בר-גיורא' להרחיב את פעילותם וב-12 באפריל 1909 הקימו בכפר תבור את ארגון 'השומר'. בשנים הבאות המשיכו חברי 'בר-גיורא' למלא תפקיד מרכזי בארגון 'השומר' ולפעול בחשאיות, למרות שארגון 'השומר' פעל באופן גלוי. ההצטרפות לשורות הארגון הותנתה בתנאי קבלה קשים ובמבחנים מחמירים. חברי 'השומר' נהגו לרכוב על סוסות אצילות, ללבוש בגדים מזרחיים ולחבוש כפיות. הם הצטיינו ברכיבה על סוסים והתפרסמו בגבורתם.

ארגון 'השומר' הוקם במטרה לספק שירותי שמירה למושבות, אולם המייסדים התכוונו להפיץ ביישוב באמצעותו את רוח ההגנה העצמית ואת הרצון להקים כח-מגן יהודי עצמאי. הופעתם המרשימה של השומרים, אומץ ליבם ודבקותם במשימותיהם הפכו אותם לדמויות נערצות ולמופת לדמות היהודי החדש, הגאה והאמיץ.

בתחילה פעלו חברי 'השומר' במושבות הגליל התחתון: סג'רה, כפר תבור ויבנאל. אחרי כן הופקדו על השמירה גם בחדרה, ברחובות ובראשון לציון. קבוצה מחברי 'השומר' פעלה בשמירה ובכיבוש הקרקע במרחביה. בשנת 1912 הגיע הארגון לשיא פעילותו וביצע משימות שמירה בהיקף רחב, למרות שמנה עשרות חברים בלבד וקבוצה קטנה של מועמדים לארגון. באותה שנה אף הציע ישראל שוחט לוועד הפועל הציוני להקים ארגון הגנה כלל ארצי.

למרות ההצלחה, החלו בשלב זה להתעורר קשיים בפעילות הארגון. כמה מחברי 'השומר' נהרגו או נפצעו והיה צורך לטפל במשפחות שלהם. במושבות אחדות קמה התנגדות לאנשי 'השומר' (העסקתם היתה יקרה משמירה ערבית, היה חשש מתגובת הערבים על פעילותם, הרקע הסוציאליסטי שלהם הביא לעימותים עם האיכרים ה'בורגנים'). הם הואשמו בהסתגרות, בהתנשאות ובקבלת מרות של ראשי הארגון בלבד, ולכן יחס הכבוד וההערכה ביישוב כלפיהם היה מעורב בהסתייגויות.

בשנת 1913 הפסיקו המושבות רחובות וחדרה להעסיק את חברי 'השומר'. ישראל שוחט, ראש הארגון, נסע ללימודי משפטים בקושטא. התעורר בקרב אנשי 'השומר' הצורך לשלב בשמירה גם חיי עבודה והתיישבות, שהביא להקמת 'כפרי שומרים' באזורי ספר: תל-עדש (תל עדשים) בעמק יזרעאל וכפר בר גיורא (כפר גלעדי) בגליל העליון.

בתקופת מלחמת העולם הראשונה נחשד ארגון 'השומר' בכוונות מרד ואנשיו נרדפו. ישראל ומניה שוחט הוגלו לתורכיה. פעילות חברי 'השומר' חזרה והתרכזה בצפון הארץ והתנהלה בחשאיות. לקראת סופה של המלחמה החמיר מצבו של הארגון, וחלק מחבריו נאסרו ועונו. חלק מהחברים שירתו ב'גדודים העבריים'.

אחרי המלחמה נעשו נסיונות לשקם את הארגון ונקלטו חברים חדשים, בהם מראשוני העלייה השלישית, ומבוגרי גימנסיה הרצליה. התעוררו חילוקי דיעות בין החברים הוותיקים, שרצו להמשיך לפעול כמסדר-שומרים אליטיסטי ומצומצם עם הנהגה עצמית, לבין החברים החדשים, שסברו שיש להעביר את הגנת היישוב לידי גוף רחב ועממי שיהיה כפוף למוסדות היישוב. ראשי מפלגת 'אחדות העבודה', שהוקמה באותה עת, תמכו בגישה השניה. אנשי 'השומר', שהשתייכו ל'אחדות העבודה', מצאו עצמם בעימות פנימי וחיצוני.

במועצה המורחבת של 'השומר' שהתכנסה בתל-עדש ב-18 במאי 1920 הוחלט לפרק את 'השומר' ולהעביר את האחריות לביטחון היישוב ל'אחדות העבודה'. בוועידה 'אחדות העבודה' שהתכנסה כעבור ימים אחדים בכנרת, החליטה המפלגה ליטול על עצמה את האחריות לנושא הביטחון והקימה בכך את ארגון ה'הגנה'.

חברי 'השומר' הצטרפו בתחילה ל'הגנה', אך בשנים הבאות פרשו מה'הגנה' רוב ותיקי 'השומר'. במשך מספר שנים הם פעלו במסגרת ארגון-מגן חשאי משלהם בשם 'הקיבוץ', שמרכזו היה בכפר גלעדי וששימש כארגון הבטחון וההגנה של 'גדוד העבודה'.