1941 – לוחם ומפקד בפלמ"ח
בקיץ 1941 הוקם הפלמ"ח, ויצחק רבין היה מראשוני המצטרפים לשורותיו. ב-1943, חודשים אחדים לאחר תבוסת הגרמנים בקרב באל עלמיין, הסתיים שיתוף הפעולה בין "ההגנה" והצבא הבריטי, והפלמ"ח נדרש לממן את פעילותו בעבודה בקיבוצים. ההסדר החדש עורר חששות בקרב אנשי הפלמ"ח כי ייקלעו לחוסר מעש, בעוד שהמתגייסים לצבא הבריטי יקחו חלק פעיל במלחמה נגד היטלר. רבין נמנה עם הנשארים בפלמ"ח, וראה בהקמת כוח יהודי עצמאי בארץ ישראל את המשימה העיקרית של בני דורו.
עם התרחבותו של הפלמ"ח וארגון הפלוגות במסגרת של גדודים, התמנה רבין לסגן מפקד הגדוד הראשון.
בתום מלחמת העולם השנייה החליטה הנהגת היישוב על מדיניות ביטחונית חדשה, שעיקרה "מאבק צמוד" להשגת מטרות היסוד של הציונות – עלייה והתיישבות. במסגרת זו יזמה "ההגנה" הקמת יישובים חדשים וכן עלייה בלתי ליגלית. העימות עם הבריטים היה בלתי נמנע: אוניות מעפילים רבות שעשו דרכן לארץ ישראל לא הצליחו לפרוץ את ההסגר הבריטי, והמעפילים, ניצולי השואה, הורדו ונכלאו במחנה המעצר בעתלית. ב-1945, במבצע לשחרור המעפילים שיזמה "ההגנה", פיקד רבין על הכוח שפרץ למחנה עתלית. המבצע צלח, והמעפילים שוחררו. במבצע זה פגש רבין לראשונה פנים אל פנים את ניצולי השואה.
ב-1946 החליטה הנהגת היישוב על עליית מדרגה במאבק נגד הבריטים והוקמה "תנועת המרי העברי", בה שיתפו פעולה "ההגנה", האצ"ל והלח"י. לאחר שורה של פעולות הגיבו הבריטים ביד קשה: ב- 29 ביוני 1946, במבצע צבאי בריטי מתוכנן ורב היקף, שנשתמר בזיכרון הציבורי בשם "השבת השחורה", נעצרו מנהיגי היישוב והוחרם נשק רב. רבין נעצר עם אביו ונשלח למעצר ממנו שוחרר כעבור כחמישה חודשים. מיד לאחר שחרורו מונה למפקד הגדוד השני של הפלמ"ח, ובאוקטובר 1947, לקצין המבצעים של הפלמ"ח.