经过整编后的起义军，大约有六七百人。但这支队伍在敌人心中的目标相当大。国民党反动势力知道这支队伍是南昌起义军余部，是共产党领导的一支革命武装。队伍走到哪里，都有地主民团给国民党军队通风报信，国民党军队就尾随而至。为了缩小目标，便于隐蔽，这支队伍便采用“国民党第五纵队”番号，司令员是朱德，化名王楷，指导员陈毅，参谋长是王尔琢。
10月底，粟裕跟随朱德在信丰转战时，赣南特委派人到信丰接头，通报了毛委员率领秋收起义部队已上井冈山的消息。
朱德、陈毅听到这个消息非常高兴。陈毅曾读过毛泽东的《湖南农民运动考察报告》，知道毛泽东是著名的共产党员和农民运动领袖，久已景仰。
毛泽东上井冈山的消息给孤军转战中的起义军以极大的鼓舞和力量。
11月上旬，粟裕随朱德、陈毅率领的队伍来到崇义县。这里群众基础较好，又是山区，便于部队隐蔽活动。部队进入山区，发动群众，开展游击战争。以连为单位，把武装斗争同农民运动结合起来。后来，粟裕回忆说，虽然这还是初步的尝试，但意义是重大的。
在崇义期间，朱德、陈毅为了向毛泽东通报南昌起义部队的近况，派毛泽东的弟弟毛泽覃上井冈山去联系。不久，毛泽东所部的一个营由张子清、伍中豪率领来到朱德、陈毅的驻地附近。陈毅亲自换上便衣去和他们取得了联系。张子清、伍中豪是在上井冈山的途中遭敌人袭击而转移到这里来的。
通过张子清和伍中豪，陈毅了解毛泽东上井冈山前夕的一些情况。朱德、陈毅把部分装备送给张子清部，除补充该营外，还带上井冈山一部分。
12月上旬，粟裕随部队转移到仁化。在这里部队和中共广东北江特委取得了联系，知道我党要举行广州起义的消息，同时接到党中央来信，指示朱德、陈毅所部于12月15日赶到广州，参加广州起义。
队伍日夜兼程。当赶到韶关时，得知广州起义已经失败。
朱德和陈毅率领队伍转移到韶关西北的犁铺头，这是一个农村集镇。部队白天训练，晚上以连、排为单位，分头宣传群众，发动群众。在这里，南昌起义保存下来的部队有所壮大、并开始了打土豪的斗争。在斗争实践中，这支队伍不断探索新的革命道路，开始实现从城市到农村、从正规战到游击战的重大战略转变。
这时，朱德利用与滇军范石生是云南讲武堂同班同学的老关系，把起义部队隐蔽在范石生部，与范达成“部队编制、组织不动，要走随时就走”的协议，用国民革命军十六军四十七师一四○团名义把部队隐蔽起来。朱德任四十七师副师长兼一四○团团长。范石生给了一批现洋和军用物资，补充了部队，解决了当时弹药、冬衣、被服等供给困难。
当蒋介石发觉朱德的队伍隐蔽在范石生部时，密令范石生解除一四○团的武装，逮捕朱德。
范石生不忘旧谊，信守协议，立即秘密地通知了朱德。
朱德和陈毅带着部队连夜出发，西渡武水，向湖南开进。
粟裕的连队随大部队于1928年农历春节前开进宜章城。队伍打着国民党军队的旗号，利用胡少海特殊身份，智取了宜章城。当晚，国民党宜章县政府的官员和当地豪绅大摆筵席，欢迎以王楷为团长，胡少海为团副的一四○团进驻宜章。
宴会中，按照预定计划在席间逮捕了国民党的政府官员和地主乡绅，声明本军是中国共产党领导的工农革命军，并宣布宜章暴动成功。
起义军解除了县城内的反动武装，砸开监狱，释放了狱中的共产党员和革命群众；打开地主豪绅的粮仓和库房，给贫苦群众分粮分财。国民党的青天白日旗被扯了下来，标志着工农革命的红旗高高升起。
就在这一天，起义军正式打出了“工农革命军第一师”的红色军旗，体指故员纷纷撕掉了军帽上的国民党帽徽，每个人脖子上系上了红带子。朱德任师长，陈毅任党代表，王尔琢任参谋长。
五十年之后的1978年春，粟裕重访南昌、井冈山等革命故地，老将军激动不已。纪念馆的一位工作人员指着陈列柜里的军服和红领带向老将军请教：“参观者多次问到这根红领带的名称和用意，请粟裕将军给我们一个准确的解释。”
粟裕作了这样的回答：起义军每人脖子上系的红领带，记得是八一南昌起义开的头，后来的秋收起义和广州起义都沿用了这个标志。我们当时把它叫作“牺牲带”，是象征革命，表示参加起义的同志献身革命的决心。记得1928年1 月下旬，我们南昌起义保留下来的部队，在来德同志和陈毅同志的率领下，发起湘南年关暴动时，每个起义参加者的脖子上也都系了一条红领带。当时有许多女同志参加了这次起义，陶铸同志的爱人曾志同志就是其中杰出的一个。
她围了一条红绸子作领带，从左肩披下来拖到腰际，显得英姿飒爽。……总之，系红