卢祖尚出身将门,他的父亲卢禧是隋朝的虎贲郎将。等到卢祖尚成年时,正好赶上隋末天下大乱,因为他家中比较富有,一直以来乐善好施,在家乡以侠义闻名,所以当时不少人前去投奔他。卢祖尚考虑到天下已乱,为了保护乡里,他干脆组织起一些勇士,防备周围的流寇。这时候卢祖尚才19岁,但因为出身将门,深知兵法,他率领着勇士们四处剿灭贼寇,立下了很多功劳。到最后,周围的贼寇都不敢惹卢祖尚,远远避开了他所在的光州。
后来辅公祏叛乱,卢祖尚作为前军总管,跟随赵郡王李孝恭前往平叛,立下了不少功劳,因此被任命为蒋州刺史。在此后的几年里,卢祖尚先后在寿州、瀛州等地任职,很是做出了一些成绩。经过几年在地方做官的经历,他证明了自己既能够带兵打仗,也能够治理地方。一般来说,这样的人肯定会得到重用。只可惜卢祖尚怎么也没有想到,他会因为一次重用而丧命。
贞观二年,担任交州都督的遂安公李寿因为贪污被人告发,李世民立刻将之免职,调回长安闲居。一时之间,交州都督的位置便空了下来。由于交州比较偏远,当地情况又比较复杂,李世民便想找一个能文能武的人去交州担任都督。大臣们经过一番讨论之后,都觉得卢祖尚最合适,于是李世民便将他召到了长安。
李世民对卢祖尚还是非常看重了,特意召见了他,并且告诉他:“交州这个地方比较远,长期以来一直没有一个比较好的人镇守,你有安抚边疆的才能,希望你能够替我镇守交州,千万不要因为觉得太远而推辞。”卢祖尚看到皇帝这么看重自己,心头十分激动,当场就答应下来,然后拜谢而退。
没想到的是,卢祖尚回到家以后,忽然觉得交州这个地方实在是太远了,自己当时答应真是脑子发热,真是不该去交州任职。不过现在已经答应下来了,肯定没办法直接推辞。他想了一下,干脆上书自称自己有病,实在无法前往交州任职。李世民一看就火了:“这才刚刚调去交州,忽然就说自己有病,这是骗谁呢?你之前答应了还能反悔?”
李世民立刻派杜如晦去告诉卢祖尚:“就算是一个普通的老百姓都知道应该信守承诺,你之前既然已经答应我了,现在怎么又忽然反悔了?”卢祖尚一听就知道皇帝识破了自己的想法,不过他还是不愿意前往交州任职,于是再三推辞。李世民还是很看重卢祖尚的,很希望他能够去交州上任,于是又派了卢祖尚妻子的哥哥周范前往劝说。
这一次,李世民还特意让周范转达了自己的承诺:“你只管前往交州上任,我保证三年以后一定召你回长安任职,你就不要再推辞了。”按理说,李世民已经给出三年后召回来的承诺,到时候返回长安肯定会高升,卢祖尚应该不会拒绝才对。没想到的是,卢祖尚依然拒绝了,这一次他还给出了自己的理由:“我听说岭南那边瘴气很严重,每天都要喝酒才行,我又不能喝酒,去了可能就回不来了,实在是无法前往上任。”
几天后,李世民再度召见了卢祖尚,想要劝说他前往交州上任。然而卢祖尚铁了心不肯去交州,始终不肯答应。这一回他终于彻底激怒了李世民,李世民大喊道:“我安排你去做个事都不愿意,我还怎么号令天下?”他当场下令,将卢祖尚拖出去砍了。就这样,一个唐朝的开国功臣,莫名其妙送了命。虽然李世民很快就后悔了,但卢祖尚却活不过来了。