公元前403年（周威烈王二十三年），春秋时代最强大的国家晋国被国内的三个实权派领袖瓜分，昔日独步天下的超级大国一分为三，在晋国的尸体上崛起了赵国、魏国、韩国三个国家（俗称三晋），历史进入战国时代。三晋中，赵国居北，又有山河之险，韩国在南，有冶铁兵器之坚，唯独地处中间的魏国，地理破碎，境内无高山大川，又处四战之地，与秦、齐、楚这样的超级大国接壤，国际环境最为恶劣。
所谓居安思危，正因为魏国的地缘环境最恶劣，所以魏国在战国时代率先进行改革（变法），以谋求出路。魏国第一代掌舵人魏文侯在政治上任用李悝进行变法革新，使得魏国的经济实力骤然上升。在军事上以世界级名将吴起担任魏军统帅，由此拉开了魏国的军事改革序幕。吴起成为魏军统帅后，对魏军进行整编，将裁汰老弱，拣选精锐，使得魏军的面貌焕然一新。同时，根据兵不在多而在精的原则，吴起创造性的组建一支战略机动兵团，名曰武卒，是为魏武卒。
吴起对武卒的挑选标准近乎于苛刻的地步，据《荀子·议兵篇》记载“魏之武卒以度取之，衣三属之甲，操十二石之弩，负矢五十，置戈其上，冠胄带剑，赢三日之粮，日中而趋百里。中试则复其户，利其田宅。”可以说魏武卒个个都是百里挑一的壮士，也正因如此，魏武卒的规模只有5万人。
吴起还打破了当时主流的车战编制模式（当时主流编制是一名战车驾驶兵、一名弓箭手、一名戟手，72名步兵，组成一个战斗小组），车战编制对地形要求高，而且组织僵硬，又不利于机动作战。魏武卒则以步兵为主，以全新的步兵伍长什长代替战车战斗小组。
同时，吴起对入选的魏武卒进行物质奖励，不但待遇优于普通魏军士兵，而且免除魏武卒全家的徭赋租税，对战场上表现好的、立有战功的武卒分别给予奖励田宅、房产、奴仆等，全方位激励武卒的战斗意志。
公元前389年，秦国集中50万大军进攻魏国的西河郡，西河郡也就是此前秦国的河西之地（今山西、陕西两省间黄河南段以西地区），曾经晋国从秦国手里夺取，后来魏国继承了晋国在这里的领土，此地是秦国进入中原的必经之地，也是中原进入关中的必经之地，是秦魏两国必争之地，谁控制了河西谁就掌握了战略主动。所以秦国才会举国而来，50万大军浩浩荡荡杀奔河西。吴起遂带领5万魏武卒奔赴河西战场，双方在河西的阴晋遭遇，随即展开决战，结果魏武卒以一当十，硬是打垮了10倍于己的秦军，是为阴晋之战。此战也使得秦国在之后数十年内不敢东向，直到商鞅变法之后，秦人才重启东进战略。
阴晋之战也使得魏武卒名动天下，此后更是参与了魏国几乎所有的军事行动，列国更是畏之如虎。史载“魏武卒大战七十二，全胜六十四，其余均解（平局）”，诚可谓战国第一强军，也是魏国在战国初期得以称霸天下的根本。
公元前293年，秦国战神白起在伊阙大败魏韩联军（伊阙之战），斩首24万级，曾经名动天下的魏武卒也在此战中伤亡殆尽，魏国的百年霸业也一去不复返。
