官渡之战，曹、袁两军相持，袁绍派遣淳于琼等督运粮食屯于乌巢，曹操亲率军队突袭。张郃认为，曹操率领的都是精兵，淳于琼一定抵挡不住。乌巢粮仓一旦有失，则河北一方的大势必将失去。于是建议袁绍赶紧派兵救援。而袁绍的谋士郭图则认为，张郃的计策不可取，应该攻击曹操的大本营，这样曹操必然回来，乌巢的危机不救自解。张郃说，曹操的营寨非常坚固，一定攻打不下来，一旦淳于琼被擒获，我们都会成为曹军的俘虏了。袁绍派遣了很少一部分轻骑兵支援淳于琼，而派遣重兵攻打曹操的大本营。结果，淳于琼果然被曹操擒获，乌巢粮仓被烧，而曹军的大本营又攻打不下，袁军崩溃。郭图害怕袁绍追究责任，又向袁绍说张郃的坏话，张郃害怕，投降了曹操。
张郃与郭图因为对形势的判断不同因而提出了不同的意见，应该说是很正常的一件事，关键是看主帅自己如何把握。从袁绍分兵两出来看，他自己是看不清战场形势的，只是更相信郭图，因而把重点放在了郭图的建议上。有了这样一个糊涂的主公，任何人在他手下，都不可能成为一名有为战将，不仅仅是张郃。淳于琼是西园八校尉之一，早期和袁绍曹操齐名，这个人后来被看成是酒囊饭袋，不能不说完全是毁在了袁绍手中，也难怪袁绍的大将之一朱灵会早早地离开了他！朱灵这个人非常典型，论能力不过是中庸之人，但他因为早早归属了曹操，最终被任命为曹操时期的最高军职后将军，不能不说是因为统帅的才能成就的将军。
张郃既已归属曹操，立即就被曹操任命为偏将军，封为都亭侯，后来因功逐步升任为西北方面的副统帅，为夏侯渊副手。
张郃最有名的战绩有两项：一是夏侯渊阵亡，张郃在战场上被众将推举为临时主帅，张郃临危不乱，安定了军心，曹军得以安全撤离；二是街亭打败马谡，使诸葛亮的初次北伐无功而返。
