凌烟阁功臣张公瑾并非李世民的嫡系,最开始的时候,李世民和张公瑾并不认识。张公瑾原先是王世充的手下,任洧州长史,李渊建唐之后,张公瑾归顺大唐,被任命为邹州别驾。他与李世民相识是在洛阳城下的。
当时李世民刚率领秦琼、尉迟恭等人在谷水大败王世充,王世充退回洛阳当了缩头乌龟。李世民围困洛阳十天仍没有任何进展。在军情火烧火燎的情况下,李勣和尉迟敬德联名向李世民推荐了张公瑾,说张公瑾此人力大无穷,并且是王世充的旧部,他跟王世充手下将领多有相识的,他很可能有破敌之法。李世民欣然应允。张公瑾来到洛阳之后,很快帮助李世民攻破洛阳,独霸中原。
张公瑾一生最闪亮的地方在于之后助李世民登上皇位的斗争中立下了不世之功。武德九年是李建成和李世民兄弟二人闹得最凶的一年。李建成和李元吉建立同盟想搞死李世民,先是李建成请李世民喝酒,谁曾想喝的是毒酒,李世民喝完之后胸痛不已,大口吐血,幸好其叔叔李神通第一时间护送他回到王府,服用药物才得以缓解。
李建成和李元吉又联手在一月之内将李世民的心腹纷纷调离秦王府,房玄龄、杜如晦、程知节都被调走,尉迟恭还遭到暗杀。此时的李世民已经陷入绝境,长孙无忌、尉迟恭、张公瑾都劝李世民先下手为强,否则就得完蛋。李世民又接到内线秘报,六月初一,李建章和李元吉又在昆明池摆下鸿门宴,幕布背后都是刀斧手。李世民还是下不了狠心,居然请来了占卜先生。占卜活动正在进行,张公瑾突然闯了过来,直接把占卜用的龟壳扔到地下。反问李世民,如果占卜有用,我们还用如此紧张?如果占卜结果是吉,李建成就不会杀你了吗?一语惊醒梦中人,这才有了三天后的玄武门之变,李世民干脆利落地干掉了李建成和李元吉。当李建成的大军杀了过来时,力大无穷的张公瑾凭借一人之力把城门给关上了,将万千敌军挡在宫门之外,为李世民篡位夺权赢得时间。