第五次反围剿开始后，李德抛弃了红军擅长的运动战，选择和敌人硬碰硬打阵地战，在他的错误指挥下，红军将士虽然英勇作战，但苏区面积却日益缩小，部队减员严重。为了补充有生力量，中革军委决定组建中国工农红军第八军团。

    1934年9月21日，红八军团在江西兴国成立，下辖红21师和红23师两个师，共一万余人，但只有3000多支枪，多数战士都是刚刚补充的新兵。军团长为周昆，政委为黄苏，参谋长为张云逸，政治部主任为罗荣桓。红八军团成立后不久就随中央红军开始了艰苦卓绝的长征。

    当时的行军序列是：红一军团为左路前卫，红九军团随一军团左侧跟进，红三军团为右路前卫，红八军团担任全军的右后翼，红五军团殿后。长征开始后红八军团和兄弟部队一起先后参加了古陂镇、铜梓和大塘埠等战斗，在战火中得到了成长。接连突破敌人的三道封锁线后，中央红军进入湖南，迎来了长征中最为悲壮的湘军战役。

    在这一场战役中，红八军团遭到了敌军两个师加一个团的重兵围堵，此时的红八军团在连续突破了敌人的三道封锁线后已经减员过半，面对优势敌人的疯狂进攻，将士们打的极为顽强，在付出了巨大的牺牲后，红八军团终于冲出了敌人的包围圈，来到了湘江岸边，但此时通往对岸的浮桥却被敌机给炸断了，战士们只得涉水过河，在敌机的不断轰炸下，最终只有千余人渡过了湘江，其中还包括400多名挑夫和勤杂人员。

    此战过后，红八军团的战斗人员已经不足600人，12月18日在黎平会议上中央决定撤销红八军团的建制和番号，剩余的战士被编入红5军团。从成立之初到番号被撤销，红八军团只存在了不到3个月的时间。1955年授衔时，曾任红八军团参谋长的张云逸被授予大将，当时的政治部主任罗荣桓成了开国元帅。