ב-28 במאי 1948 הקימה ממשלת ישראל את צה"ל ואסרה על קיומם של כוחות חמושים אחרים. ב-1 ביוני נחתם הסכם עם הנהגת האצ"ל על פירוק הארגון, שילוב אנשיו בכוחות צה"ל ומסירת הנשק והציוד שבידיהם. למרות ההסכם המשיכה מפקדת האצ"ל להתקיים והחזיקה כוחות צבאיים במרחב ירושלים.

ב-11 יוני 1948 הפליגה מצרפת אניה של האצ"ל שנקראה 'אלטלנה' (על שם כינויו הספרותי של זאב ז'בוטינסקי). האניה הובילה כ-900 מתנדבים, שהתכוונו להתגייס לאצ"ל, וכמויות גדולות של נשק ותחמושת. כשנודע לממשלה על הגעת הספינה, נדרש האצ"ל להעביר לידי צה"ל את הנשק. האצ"ל תבע להעביר חלק מהנשק לידי כוחותיו בירושלים. דוד בן-גוריון סירב לדרישה מכיוון שחשש שקיומם של כוחות חמושים מחוץ לצה"ל עלול להביא למלחמת אזרחים. המשא ומתן שהתנהל בין הצדדים לא הביא להסכמה.

ב-20 ביוני, במהלך ההפוגה הראשונה במלחמת העצמאות, הגיעה האניה לחוף כפר ויתקין, שם המתינו לה כוחות צה"ל. אחרי שהורדו רוב הנוסעים וחלק מהנשק, הועבר אולטימטום למנחם בגין, ראש האצ"ל, ובו דרישה להעביר מיידית את האניה על תכולתה לצה"ל. אחרי שבגין לא נענה לאולטימטום, החלו חילופי אש בין הצדדים שבהם נהרגו ששה אנשי אצ"ל ושני חיילי צה"ל. האניה עם בגין ומאה אנשי אצ"ל על סיפונה, הפליגה לתל-אביב, שבה היו לאצ"ל תומכים רבים. בהגיעה לחוף תל-אביב עלתה 'אלטלנה' על שרטון. בחוף עצמו התפתחה התנגשות אלימה בין אנשי האצ"ל ותומכיהם לבין חיילי צה"ל. כוחות פלמ"ח נשלחו לתל-אביב, וחלק מאנשי האצ"ל עזבו את יחידותיהם והגיעו למקום. דרישתו של בן-גוריון לכניעה מוחלטת של הספינה ואנשיה לא נענתה. ב-22 ביוני בשעה ארבע אחר הצהריים הופגזה האניה מהחוף על ידי תותח של צה"ל והחלה לעלות באש. האנשים שהיו על הסיפון נטשו את הספינה והיא טבעה. חילופי האש נמשכו ונהרגו בהם עשרה אנשי אצ"ל וחייל צה"ל אחד.

בימים הבאים כ-200 מאנשי האצ"ל, בהם חלק מבכירי הארגון, נעצרו בפקודת הממשלה והוחזקו במאסר שבועות אחדים. הפלמ"ח השתלט על מצודת זאב. יחידות האצ"ל פורקו ופוזרו בצה"ל. בספטמבר 1948, בעקבות רצח מתווך האו"ם הרוזן ברנדוט, פורק גם הגדוד הירושלמי של האצ"ל. פרשת 'אלטלנה' גרמה למשבר קואליציוני ולהתפטרות זמנית של השרים יהודה לייב מימון ומשה שפירא מהממשלה. הוויכוח בעניין 'אלטלנה', מהלך האירוע ומניעי הצדדים נמשך תקופה ארוכה, ועד היום הוא מהווה סלע מחלוקת בין השמאל לבין הימין בישראל.