兴平元年(194年),杨彪出任太尉并录尚书事。东汉“虽置三公,事归台阁”政治体系当时已经瓦解,杨彪这个“太尉并录尚书事”也是有名无实。建安元年(196年),曹操迎奉汉献帝迁都许昌,杨彪也跟着汉献帝到了许昌。但杨彪和曹操之间很快产生了矛盾,间接害了杨修。
杨彪与曹操的矛盾主要有两个:第一,曹操是宦官曹嵩之孙,虽然父亲曹嵩靠贿赂当过太尉,但曹家还是寒门,与大士族杨彪不和;第二,曹操迁都许昌后任司空,当时的司徒赵温是个没啥威胁的吉祥物,大将军又空缺,曹操专权的主要威胁就是太尉并录尚书事的杨彪。
正因如此,曹操在建安元年(196年)就以“与袁术有亲”为由将杨彪关进了监狱。幸亏孔融等人的激烈反对,杨彪才算保住了性命。不过杨彪保住了性命当没有保住官位,被免去了太尉并录尚书事。曹操任司空并行车骑将军事,总揽朝政。荀彧则出任尚书令,控制了尚书台。
在曹操迁都许昌并总揽朝政的时候,北方有比曹操强大的袁绍,南方有张绣和刘表、东方有吕布、东南有袁术、西方有马腾、韩遂。为了避免四面受敌,曹操以汉献帝的名义任命袁绍为太尉。可是袁绍一直想当大将军(东汉大将军的地位高于三公),对出任太尉非常不满。
建安二年(197年),被迫妥协的曹操以汉献帝的名义任命袁绍为大将军。这样一来,当时还有资格出任太尉的人要么是割据一方的军阀,要么就是曹操在许昌的潜在政敌。于是曹操干脆将太尉空置,不再任命。建安十三年(208年),曹操废三公而复丞相,自己任丞相。
曹操自任丞相后,东汉三公(司徒、司空、太尉)正式成为历史,杨彪也就成为东汉最后一任太尉。有意思的是,由于杨彪活的时间很长(终年八十四岁),曹丕篡汉登基后也表示要任命杨彪为曹魏的太尉,但被杨彪拒绝了。