哥舒翰是突骑施哥舒部落首领的后裔,父亲曾任安西都护府副都护、赤水军使,母亲是于阗王的公主,在这种家境下长大的哥舒翰变得文武双全。但因为他喜欢喝酒赌博,所以前期并没有什么成就。在他四十岁那年,父亲病逝,哥舒翰按照汉人的传统,到长安客居了三年。在这期间,哥舒翰因长安尉的轻视而受到打击,回去后就投身河西节度使王倕帐下。
天宝元年,王倕攻克了新城,把这里交给哥舒翰管理。因哥舒翰治军有方,号令严明,所以三军上下无人不服。哥舒翰的优异表现引起了新任河西节度使王忠嗣的关注,提拔他做了衙将。后来吐蕃来犯,哥舒翰又被王忠嗣提拔为左卫郎将抵挡吐蕃进攻。当时哥舒翰与吐蕃的三队兵马在苦拔海血战,打得吐蕃溃不成军,哥舒翰也因此名震天下。
天宝六载十月,河西节度使王忠嗣因被宰相李林甫陷害入狱,哥舒翰取代王忠嗣的位置。哥舒翰在唐玄宗面前力保王忠嗣无罪,最终感动唐玄宗,将王忠嗣从轻发落。而哥舒翰也赢得了“义士”的好名声。王忠嗣被贬之后,没人敢再忤逆唐玄宗的意思。于是在天宝七载,哥舒翰又奉命攻打吐蕃。哥舒翰吸取了王忠嗣的教训,采取步步为营的战略。先后在青海修建了神威城和应龙城,让吐蕃不敢靠近青海湖。后来他又带兵攻下石堡城,占据九曲之地,将唐朝和吐蕃的界线推到青海湖以西的位置。
唐玄宗大喜,加封哥舒翰为开封府仪同三司。天下士子,也对哥舒翰推崇备至。当时李白认为,哥舒翰的功绩,即使是汉朝的卫青都不能与之相提并论。还为他写下了“君不能学哥舒,横行青海夜带刀,西屠石堡取紫袍”的诗句。但在安史之乱发生后,哥舒翰却为了自己安危投降了安禄山,还写信招降往日部下。哥舒翰旧部纷纷指责他卖主求荣,是国家败类。杜甫也在《潼关吏》中写道:“请嘱防关将,慎勿学哥舒”。
而李白和杜甫之所以对哥舒翰有不同的评价,是因为二人生活在了唐朝的不同时期。李白生活在盛唐,正值哥舒翰建功立业,自然为他鼓掌叫好。而杜甫经历了安史之乱,所以鄙视哥舒翰的为人。