建国后，徐向前被任命为中国人民解放军总参谋长。徐向前深深体会到了中央、毛主席对他的信任和关怀。他深知自己肩上的责任重大，却又被病魔缠身，不能赴命，心急如焚。此后，他带着疾病同中华人民共和国一道，经历了漫长而艰苦的斗争岁月。1954年，他被任命为副主席。1955年，他被授予元帅军衔。
1967年1月24日夜，毛家湾的林彪住宅突然来了位闯入者。林彪虽然不高兴，但一看是徐向前来了，就以元帅见元帅的礼节欢迎徐向前。徐向前元帅说了军政机关被造反派冲击的事，请做为第一副主席和国防部长的林彪来制止这类事。林彪也怕军队太乱没法向毛主席交代，就商量制订《军委八条》，制止造反派的激进行为。毛主席做了部分有益的修改后批准了。
同年2月11日至16日，叶剑英、徐向前、谭震林、陈毅和李先念等老帅老将在中南海怀仁堂当面怒斥林、江xx集团乱党乱军的做法。徐向前质问道：“军队是无产阶级专政的支柱。你们这样乱下去，还要不要这个支柱?!”虽然他们的行为被四人帮诬为“二月逆流”，毛主席也很生气，但究竟保护了他们。但是，徐向前仍然两次被抄家。1971年九一三事件后，毛主席说二月逆流是老帅不满林彪发牢骚，等于为徐向前元帅平反。
1979年，徐向前决策了对越自卫反击战。1988年，他为支持邓小平使干部年轻化的政策，主动辞去了副主席、中华人民共和国国务院副总理等职。
1990年9月21日凌晨4时21分，徐向前元帅与世长辞。从此，中国人民失去了一位德高望重的政治家，军旅中陨落了一颗璀璨的将帅之星。
