南下途中，1927年10月3日，部队到达宁冈县古城，前敌委员会在古城召开扩大会议，即“古城会议”，初步作出了创建井冈山革命根据地、开展工农武装割据的决定。10月7日，毛泽东率领工农革命军进抵宁冈茅坪，开始了中国革命第一个农村根据地——井冈山革命根据地的斗争。

以毛泽东为书记的前委领导井冈山周围各县军民，利用湘赣两省国民党各派军队混乱的时机，采取积极发展的方针，有力开展游击活动，稳步推进武装割据。从1927年10月至次年2月，井冈山周围各县的党组织有了恢复和发展，部队相继攻占茶陵、遂川、宁冈3个县城，打退江西敌军的第一次“进剿”，分别建立了这3个县的工农兵政府，同时解放了一片农村，并帮助地方组建了赤卫队、暴动队等组织。于此同时，前委注重加强政治教育和无产阶级思想领导，确定“打仗消灭敌人、打土豪筹款子、做群众工作为部队”三大任务，制定出部队“三大纪律，六项注意”（后发展为八项注意）；土地革命开始试点，并取得了初步经验。一个巩固的农村革命根据地在井冈山初步建立起来，打开了实现工农武装割据的新局面。

1928年4月底，朱德、陈毅率领南昌起义保存下来的部队和湘南农军到达井冈山，和毛泽东领导的工农革命军会师，成立了中国工农红军第四军。从4月到6月，红四军连续打破江西敌军的第二、三、四次“进剿”。毛泽东和朱德总结红军和游击队作战经验，提出了“敌进我退、敌驻我扰、敌疲我打、敌退我追”的十字游击战基本原则。

1928年5月20日，中共湘赣边界第一次代表大会在宁冈茅坪开，毛泽东在会上提出了“工农武装割据”的思想，阐述了中国革命战争发展和胜利的必然性和可能性。同年10月，毛泽东在宁冈茅坪主持召开湘赣边界党的第二次代表大会，大会通过了毛泽东起草的决议，《中国的红色政权为什么能够存在？》就是其中的第一部分，它分析了中国红色政权发生和存在的原因，回答了"红旗到底打得多久"的疑问。

1928年12月11日，彭德怀、滕代远率领红五军主力来到井冈山，与红四军会师，进一步增强了井冈山地区的工农武装力量，使其成为了全国各根据地中人数最多、战斗力最强的一支红军。

井冈山革命根据地的创建，是以毛泽东为代表的中国共产党人，在大革命失败的严重历史关头，成功地把党的工作重心由城市转入农村的光辉典范，是中国革命斗争史上的伟大创举，在实践上开辟了建立农村革命根据地，以农村包围城市、最后夺取全国政权的正确道路。