为了培养起义的骨干力量，彭德怀向周磐力荐黄埔军校毕业生黄公略创办随营学校。好友多年未见，彭德怀设宴为黄公略接风，黄公略随身带着中共广东省委的介绍信。部队奉命开赴平江，彭德怀决定在平江组织武装起义。临行前，彭德怀让妻子刘坤模随弟弟一起回老家。为了更好地指导起义，中共湖南省委特派员滕代远化装成商人来找彭德怀。正当起义有条不紊地筹备时，国民党特务查到了长沙的一个共产党地下机关，从中搜出了黄公略的亲笔信，彭德怀处在危险之中。1928年7月22日，彭德怀率领800勇士冲进平江城，解除了平江军警2000人的武装，工农红军第五军正式成立。彭德怀任军长，滕代远为党代表。湖南省主席鲁涤平急令张辉瓒对彭德怀领导的红五军进行“围剿”。