中国人民解放军第38集团军于1985年由中国人民解放军第38军（38军）改编而成。隶属北京军区。第38集团军的历史可追溯至1928年参加平江起义的湘军独5师第1团，之后汇入工农红军红五军，因此7月22日（平江起义日期）为第38集团军的纪念日。在解放战争中，其名称为“东北民主联军第一纵队”，于1946年11月改称“中国人民解放军第38军”。在朝鲜战争第二次战役中表现出色，被誉为“万岁军”，其中松骨峰阻击战成为作家魏巍通讯《谁是最可爱的人》的主题。第38集团军的前身是1946年8月编成的东北民主联军第一纵队。
该军的主力112师是彭德怀所率领的湘军独5师第1团于1928年发动平江起义创建的工农红军第5军，1930年以红5军为主的红三军团一举攻克长沙，这也是十年内战时期红军攻下的最大城市。红三军团，是当时的中央苏区红军两大主力之一，抗战中编为八路军115师343旅686团，参加平型关战役。1939年编为山东区第1师随罗荣桓进军山东。第113师的前身是徐海东大将领导的红二十五军一部，在长征中孤军奋战，率先到达陕北。抗战中编为八路军第115师344旅，开赴华北抗日前线。其中一部进入山东，抗战大反攻时编为山东军区第2师。第114师的前身是张学良的东北军第53军111师，后在中共地下党员万毅指挥下在山东举行起义，编入八路军。
辽沈战役结束后，1948年11月，第一纵队改称为中国人民解放军第38军，所辖第1师改称第112师，第2师改称第113师，第3师改称第114师。同时将辽北独立第10师划归38军建制，改称第151师。随后参加平津战役。38军在平津战役中担任天津主攻，生擒天津警备司令陈长捷。38军还参加了宣沙，衡宝，广西，滇南等大小战役。在整个国共内战中，38军从松花江边一直打到云南中缅边境。
中华人民共和国成立后
1950年，38军由梁兴初将军率领，参加朝鲜战争，担负穿插重任。在第二次战役中，成功穿插三所里与龙源里。由于松骨峰阻击战中，38军表现突出，彭德怀总司令电报嘉奖道“中国人民志愿军万岁！第三十八军万岁！”，从此，38军有“万岁军”的称号。