郭淮祖父郭全曾任大司农,父亲郭缊曾任雁门太守。建安中期郭淮举孝廉,为平原府丞。曹丕为五官中郎将时,召郭淮署为门下贼曹,后转为丞相兵曹议令史。
[215年],郭淮随曹操征讨汉中。曹操回军后,留夏侯渊守汉中,而郭淮为夏侯渊的司马。
[218年],刘备进攻汉中。219年1月,刘备在定军山击败并杀死夏侯渊,曹军大败,退守阳平关东。郭淮因病,未参加此战。夏侯渊死后,曹军无主,三军慌乱。郭淮和杜袭收敛散卒,推举张郃为代理主帅,并协助他成功据守汉水,刘备退回。不久,曹操让张郃假节,以郭淮为张郃司马。
[220年],曹丕即王位,赐郭淮关内侯,转为镇西长史。又行征羌护军,与护左将军张郃、冠军将军杨秋讨山贼郑甘、卢水叛胡等,皆平之。至此关中平定,百姓得以安居乐业。同年10月,曹丕称帝,群臣进京祝贺,郭淮因病迟到,但因巧妙的回答未受责罚。曹丕升郭淮为雍州刺史,封射阳亭侯。其后几年,郭淮多次镇压羌族叛乱,威镇边疆。
[228年],蜀军第一次北伐,诸葛亮派马谡守街亭,高详守柳城。张郃率军攻打街亭,而郭淮则率军攻打柳城,两处均告胜利。随后郭淮又在枹罕破羌人唐氾,加建威将军。
[229年],蜀军第三次北伐,蜀将陈式进攻武都、阴平二郡。郭淮率兵救援,在建威遭到诸葛亮主力的阻击,被迫退走。蜀军遂攻占武都、阴平二郡。
[231年],蜀军第四次北伐,郭淮奉命随司马懿防御蜀军。当时陇右缺粮,郭淮招抚羌人,恩威并施,调集粮草,遂解军粮之急,转为扬武将军。
[234年],蜀军第五次北伐,郭淮随司马懿渡渭水据守,先后提出抢占北原,备守阳遂的优秀建议,因此成功防御蜀军。
[240年],蜀将姜维出陇西,郭淮成功防守,之后多次平定少数民族叛乱,升为左将军。后又转拜前将军,仍为雍州刺史。
[244年],夏侯玄伐蜀,郭淮为前锋。郭淮分析形势不利,及时撤军,才不至大败。回军后,郭淮假节。
[247年],雍、凉等地的羌胡族人背魏降蜀,蜀将姜维率兵出陇右接应。郭淮、夏侯霸与姜维交战于洮西。姜维迁部分投降的羌胡部落入蜀境,未迁走者皆为魏军击平。其后,郭淮多次防御蜀军的北伐活动。
[249年],郭淮升为征西将军,都督雍、凉两州军事。同年,在与蜀军交战中击败廖化,俘虏蜀将句安。
[250年],郭淮因前功升为车骑将军,仪同三司,持节、都督如故,并进封阳曲侯,食邑共2780户,分出300户,封其一子亭侯。
[255年],郭淮去世,被追赠为大将军,谥贞侯,儿子郭统继嗣。