1927年大革命失败后，国内政治局势急剧逆转，中国革命进入低潮。八七会议后，毛泽东作为中央特派员到湖南改组省委，并发动和领导了湘赣边界的秋收起义。在攻打中心城市受挫后，以毛泽东为书记的前敌委员会当机立断，毅然改变原定部署，决定到敌人控制比较薄弱的山区寻求立足地。

10月，毛泽东率领湘赣边秋收起义的工农革命军到达罗霄山脉中段的井冈山地区,开展游击战争,进行土地革命，恢复和建立共产党的组织，建立革命政权和赤卫队。与此同时，经过团结、教育、改造工作，将袁文才、王佐两支农民自卫军编入工农革命军。至1928年2月底,包括宁冈全县，遂川西北部，永新、酃县、茶陵等县部分地区的井冈山革命根据地初步建成。4月,朱德、陈毅率领工农革命军由湘南到达井冈山，同毛泽东领导的工农革命军会师,合编为工农革命军第4军，后改称红军第4军。

1928年4月底，朱德、陈毅率领南昌起义保存下来的部队和湘南农军到达井冈山，和毛泽东领导的工农革命军会师，成立了中国工农红军第四军。5月，组成了毛泽东为书记的中共湘赣边界特别委员会；接着成立了袁文才任主席的湘赣边界苏维埃政府。红军在赤卫队和人民群众配合下，接连打破了江西国民党军的多次“进剿”。至6月,井冈山革命根据地拥有宁冈、永新、莲花3个县,和遂川、酃县、吉安、安福等县的部分地区。之后，又打破了湘赣两省国民党军的两次“会剿”。12月，彭德怀、滕代远率领红5军主力到达井冈山，同红4军会师。此后，红军粉碎了敌人的多次“围剿”，根据地不断扩大。1929年1月，毛泽东、朱德率领红4军主力向赣南、闽西挺进后,留下一部红军坚持井冈山的斗争。