李渊有意让张士贵担任家乡的刺史，后随李世民参与玄武门之变
张士贵的父亲张国在隋朝历任陕县主簿、硖州录事和参军，又因为战功而被封为大都督，自此移居虢州。到了张士贵这一代，他没有辜负家族历代习武为将的传统，据《旧唐书》记载，他“善骑射，膂力过人。”而《新唐书》则说他“弯弓百五十斤，左右射无空发。”
武勇过人的张士贵在当地很有名望。隋朝末年，天下大乱，张士贵便召集起一支起义军，攻打周边县城，产生了强烈的冲击波，隋朝地方官员都很畏惧。因为本名忽峍，所以张士贵率领的义军又被官方称之为“忽峍贼”。
不久，李渊在晋阳起兵，势如破竹。为了招揽张士贵，李渊下一道劝降书。其情也真，张士贵读罢很快带着部卒前去投靠李渊，被封为右光禄大夫。大业十三年（617年），李渊率部南下西进，排山倒海般攻入隋朝都城大兴城。李渊谋取天下的决心已定，他派出相府司马刘文静前去安抚河南地区。
来到河南，刘文静让熟悉当地情况的张士贵为向导，很快成功平定河南。在此过程中，因为屡次立下战功，张士贵被赐爵位为新野县公。后来，张士贵随军攻破隋朝东都洛阳，又被封为虢州刺史。让张士贵在老家做刺史，李渊的用意十分明显。将张士贵封官后，唐太祖李渊还特意解释他的用意：“欲卿衣锦昼游耳。”
项籍
成语“锦衣夜行”出自《史记•项羽本纪》。原文是：“富贵不归故乡，如锦衣夜行。”意思是，人飞黄腾达后，如果不回乡让故人们知晓，就如同穿着锦衣在夜间行走，不为外人所知。
李渊让张士贵“衣锦昼游”，客观上提升了张士贵的知名度，也坚定了张士贵为自己奋力的决心。不久，李渊又加封张士贵为虢国公、右屯卫大将军。
一个有知遇之恩，一个立下奇志。人生不但要有相互激赏，还要有相互信任。
武德元年（618年），唐朝初建，周边局势很不太平。右屯卫大将军张士贵到了秦王李世民的麾下，跟随秦王西征，消灭了割据陇西，自称“西秦霸王”的军阀薛举。
搬掉了薛举这个绊脚石之后，张士贵受封马军总管，率兵以少胜多，打败了王世充的部队。武德二年（619年），军阀刘武周勾结突厥，占领了李渊的发迹之地山西。这时候，李世民带领张士贵渡过黄河，一路反击，收复失地。随后，张士贵南下河南攻打王世充、窦建德；北上平定河北，屡立奇功。
凭借着如日中天的战功，张士贵成为秦王李世民的铁杆。
玄武门之变
而李渊治下，太子李建成和秦王李世民成为互不相容的猛虎。武德九年（626年），玄武门之变，秦王李世民带领孙无忌、尉迟敬德、张士贵等人在玄武门设下埋伏，干掉了太子李建成。
就是这次惨烈的武装政变，让李世民认识到禁卫统领的重要性。是他买通了禁军统领常何，才得以顺利发动政变。李世民任命张士贵作为自己的禁军统领，负责宫廷守卫。
贞观七年（633年），广西平南县的龚州动乱。张士贵受封龚州道行军总管，跋涉千里，带兵平定，又立战功。
班师后，李世民褒奖他道：“闻公亲当矢石，为士卒先，虽古名将，何以加也！朕尝闻以身报国者，不顾性命，但闻其语，未闻其实，于公见之矣。”
张士贵
此战后，张士贵受封左领军大将军。唐高宗显庆二年（657年）张士贵去世，被追赠辅国大将军、荆州都督，谥号为襄，陪葬在埋葬唐太宗李世民的昭陵，在另外一个世界成为唐太宗李世民永远的守卫者。
张士贵在唐朝建立和统一过程中立下了赫赫战功，生前身后都拥有尊崇地位，是一个名副其实的名将。
张士贵对其部属薛仁贵始终是信赖、器重并大力扶持的，根本不存在加害之事。然而北宋以后出现的讲述隋唐故事的话本、小说和戏剧，却把张士贵说成是旧势力的代表，编造了许多迫害薛仁贵的故事，所有这些，纯属虚构。
这是宋代及其以后的文人学士为了通过讲述历史，影射和抨击当朝权贵而虚构的，都是特有所指的。因此，虚构的历史上的张士贵是截然不同的。