他是司马懿的伯乐因得罪曹丕下狱，司马懿替其叩头求情也没救下他
尝问许子将："我何如人？"子将不答。固问之，子将曰："子治世之能臣，乱世之奸雄。"
杨俊是当时河内郡人，他曾拜师于当时的大名士边让。时值东汉末年天下动荡不安，杨俊觉得河内地处交通要冲将来一旦发生战争必然会遭受战乱。于是他便带着族人躲藏在了大山里而随他同行避难的乡人也有百余户，在杨俊的带领下他们这些人互相扶持在乱世中找到了一方净土生存了下来。在司马懿十六七岁的时候曾和杨俊见过一次面，杨俊见到司马懿后立即说道：“"此非常之人也。"
司马宣王年十六七，与俊相遇，俊曰："此非常之人也。"《三国志杨俊传》
杨俊对司马懿虽然没有知遇之恩，但是他在当时也是一方名士所以他认为司马懿是个非比寻常的人在当时是有很重大的意义了。当时社会上有一种风气就是如果一个人想要步入仕途最简单的方法就是被达官贵人举荐，而要想获得这些达官贵人的举荐就要在社会上有一定的名气，而所谓的名气则大部分是由想杨俊这样的名士打造出来的，他们对一个人的评价可以说是影响这个人步入仕途后取得发展的关键因素之一。
《三国志杨俊传》记载：“俊自少及长，以人伦自任。”这句话的意思就是杨俊这个人一生都以点评人物为己任，除了点评人物杨俊经常赈济贫弱提拔后生。杨俊的族人有一些人被变卖成奴仆，他自己他掏钱将这些族人赎回。杨俊在并州避难的时候，遇到了同乡一位沦为奴仆的少年王象。当时王象年仅十七八岁，在牧羊的时候因为偷偷读书被主人发现而遭到了毒打，杨俊得知事情的原委之后便出钱将王象赎回并且资助他钱财替其娶了妻安了一个家。
后来杨俊回到了中原被曹操征召为丞相掾属，曹操建立魏国之后杨俊被提拔为了中尉。有一次曹操向身边的人秘密询问关于立嗣子的事情。杨俊因为和临菑侯曹植交好，所以他在言谈之中虽然没有明显说出曹丕和曹植谁更为优秀，但是他的言辞之间明显是称赞曹植更多。于是曹丕得知后便对杨俊怀恨在心。
初，临菑侯与俊善，太祖適嗣未定，密访群司。俊虽并论文帝、临菑才分所长，不適有所据当，然称临菑犹美，文帝常以恨之。
曹丕因为杨俊曾支持曹植所以一直在找机会要整治杨俊，于是曹丕借故巡视杨俊的辖地宛城，以宛城不繁荣为由将杨俊逮捕下狱。司马懿得知之后立即前去拜见曹丕请求宽恕杨俊，当初受杨俊恩惠的王象也在魏国为官他也随同司马懿一同为杨俊求情，当时司马懿和王象为杨俊求情向曹丕叩头直到流血，而曹丕最终还是不为所动。杨俊在狱中得知曹丕不会原谅自己后，于是便绝望的自杀了。
黄初三年，车驾至宛，以巿不丰乐，发怒收俊。尚书仆射司马宣王、常侍王象、荀纬请俊，叩头流血，帝不许。俊曰："吾知罪矣。"遂自杀。众冤痛之。