曹操手下诸多将领中，刘备集团最不想碰到的人是谁？不是张辽，也不是曹仁，而是早期名不见经传的张郃。
作为“河北四庭柱”中的最末，张郃早期名气远不如颜良、文丑，比之高览都略有不如，后来在“官渡之战”中投降曹操后，一直也没有太多的机会建功立业，故而在《三国演义》书中，看到张郃基本都是在后半部分了。
直到“汉中之战”时期，曹操西征张鲁，抵达陈仓，准备从武都郡进入氐族部落；氐族人挡住道路，曹操派张郃统帅大军讨伐梁兴和氐族首领窦茂所部。不久从散关入汉中，派张郃率五千步兵在前开道，一直到阳平。张鲁投降，曹操回军，留张郃与夏侯渊、徐晃等守汉中，以拒刘备。
张郃别督诸军南下进攻巴东、巴西二郡，将当地百姓迁徙到汉中。刘备派征虏将军张飞为巴西郡太守，抗击张郃。张郃率军进至宕渠，与张飞相拒五十余日，张飞率精兵万余人从小道进攻张郃，由于山道狭窄，首尾不能相救，张郃大败，仅带十余人弃马爬山逃跑，之后收拢败兵，撤回南郑。
公元218年的时候，刘备进攻汉中，屯于阳平，夏侯渊、张郃、徐晃等率军迎击，张郃负责防守广石。刘备亲自率精兵万余人，分为十部，夜间猛攻张郃。张郃率亲兵与蜀军进行对抗，刘备不能攻克张郃，写信要求益州拨发援兵。
夏侯渊直到张郃兵少，于是亲率军队来支援，没想到中了法正的奇谋，在定军山被老黄忠一刀两断；曹军大败，张郃同败军一起退守阳平关东。而当刘备听闻夏侯渊被斩杀，只说：“要杀就杀张郃，杀夏侯渊有什么用！”
可见，在刘备心中，对张郃是有多么的忌惮，这可以说是刘备纵横沙场一生第一次发出这样的感叹。
曹操死后，曹丕继位登基称帝，张郃才得以真正大展拳脚；进封张郃为鄚侯，命令张郃与曹真率领兵马征伐盘踞在安定一代的卢水胡人和东部羌人。战斗结束后，曹丕又在许昌宫召见了张郃、曹真，派张郃南下与夏侯尚一起进攻东吴政权的江夏郡。张郃独自率领几路大军渡过长江，夺取了百里洲上的吴军堡垒。
曹叡即位后，派张郃来到南方，驻扎荆州，和司马懿一起进攻孙权的部将刘阿等人，大军来到祁口，与吴军激战，打败了刘阿所部。
张郃的辉煌是在其晚年的军旅生涯时，诸葛亮知道困守蜀地迟早要被灭，不断发起北伐，想要为蜀地打开一个突破口，夺取长安，吞并雍凉，成为真正的三足鼎立之势。
在诸葛亮的数次北伐中，最危险的一次当属公元228年那一次，天水、南安、安定三郡吏民叛应诸葛亮；当时朝臣未知计所出，曹叡自信地说：“诸葛亮恃险固守，不易进攻。现在他自动来了，正符合引出敌人的战术。打败诸葛亮是一定的了。”
于是曹叡给张郃加官特进，让他总督各路军马，在街亭阻挡诸葛亮的部将马谡。马谡依傍险要的南山扎寨，没有下山占据城池。张郃断绝了他取水的道路，然後发起进攻，大败马谡。南安、天水、安定各郡反叛魏国响应诸葛亮，张郃领兵平定了这几处地方，这也是诸葛亮输得最惨的一次。
张郃用兵机变无双，懂得战术变化，擅於安营布阵，根据地形布置战略战术，没有他预料不到的情况，从诸葛亮起的蜀国大将都非常忌惮他。
公元231年，诸葛亮第四次北伐，诏命张郃统领众将到略阳迎击，诸葛亮退守祁山，张郃追到木门谷，与蜀军交战，飞来的箭矢射中了张郃右膝，张郃阵亡，据《魏略》记载，是司马懿强行命令张郃追击。
如此一员智勇双全的猛将，前半生被压制，后半生发光发热的时候，却被“鹰顾狼盼”的司马懿给害死了，也是可惜。
