1920年3月6日魏巍出生於河南鄭州一個城市貧民家庭。魏巍少年入平民小學，後就讀於鄉村簡易師范，15歲時父母雙亡，靠謄寫為生。

1937年12月，17歲的魏巍從鄭州隻身赴山西趙城縣八路軍一一五師軍政幹部學校參加八路軍。該校後來並入八路軍總部隨營學校。

1938年，隨營學校並入延安抗日軍政大學，魏巍為第三期學員。1938年4月加入中國共產黨。

魏巍從抗大畢業後，被分配到晉察冀敵後抗日根據地。

抗日戰爭時期、解放戰爭時期，魏巍始終在戰鬥部隊任職，在戰火中成長，在戰鬥中進步。他在與一線官兵的朝夕相處中結下了濃濃的戰友情，這為他後來寫成《誰是最可愛的人》奠定了思想基礎和生活基礎。

1946年3月19日魏巍與劉秋華舉辦了熱烈而簡樸的戰地婚禮。

1949年4月，魏巍被任命為晉察冀野戰軍騎兵第六師第十六騎兵團政委。這個團是傅作義起義部隊改編過來的，成分非常複雜，有些官兵起義並不十分情願，魏巍在這個團工作十分危險。上任前，他作了最壞的打算，把那個時期他寫的詩稿交給了在晉察冀軍區工作的好友孫犁代為保管。魏巍曾經說過，他不死，詩不死，此去如不歸，詩也不會死掉。後來，孫犁把魏巍的這些詩選編好並於1951年出版了《兩年》。

1950年5月，魏巍調到總政治部，任學校教育科副科長、創作室副主任。從此，魏巍離開了作戰部隊，始終在總部和戰區工作，走上了專業作家和文藝戰線的領導崗位。

1950年，魏巍調入解放軍總政治部時恰逢抗美援朝戰爭打響，作為總政《誰是最可愛的人》封面派往前線的部隊文化工作者趕赴朝鮮前線。1950年至1958年間，魏巍3次赴朝鮮。

1951年4月11日，《人民日報》在頭版隆重推出《誰是最可愛的人》，毛澤東主席旋即批示"印發全軍"。

1953年，魏巍開始為長篇小說《東方》創作做準備。他認為要表現抗美援朝的偉大鬥爭，只有通訊報道是不行的，要用長篇小說的體裁才能將這場偉大戰爭的歷史縱深感和朝鮮戰場、國內建設，工廠、農村的空間跨度充分反映出來。

1957年魏巍參加編寫《華北解放戰爭史》。

1978年，魏巍被任命為北京軍區文化部長，後來擔任北京軍區政治部顧問，聶榮臻元帥傳記組組長。這一時期，是他文學創作作品盛出的時期。

1978年，創作完成了抗美援朝題材長篇小說《東方》，於1983年獲首屆茅盾文學獎。

2008年8月24日，魏巍因病於北京逝世。