汉末三国时便有关于牙门的记载，应也设置牙门将之职
牙门将简单理解就是守卫“牙门”的将领，所谓的“牙门”，就是古代城池的防御工事。
而什么是牙门呢？就是简单的城门吗？牙门将就是简单的守门将？当然不是了。
如果简单理解从字面理解的话，牙门的确就是兼具防守的城门，而城门本身防守多依靠驻兵来实现，所以这些士兵便需要一个将领来率领，这便是“牙门将”。
但是，从牙门最开始的起源来看，“牙门”最早从“军门”延伸而来，古代驻兵时，在主帅或者主将的帐前，会悬挂“牙旗”，即装饰象牙的大旗。于是，军门也便被称作“牙门”。
而从这一层含义中看，“牙门将”就不单单是守城将领的意思了。
《华阳国志》中说：“七年，汶山守兵吕臣等杀其督将以叛。族灭之。初，蜀以汶山西五郡北逼阴平、武都，故于险要置守，自汶江、龙鹤、冉尨、白马、匡用五围，皆修屯牙门。晋初，以御夷檄，因仍其守。”
《华阳国志》
从《华阳国志》中蜀汉在险要位置设置牙门，便能够知道牙门并不是简单的城门的含义。试想一下也知道，在险要的位置修筑城门，又有何用呢？
因此，便能够知道，牙门虽然有“门”的守卫、防御性质，但并不是单单的城门，而是一种比城池、土城等都要小一些的防御工事。
所以，牙门将也便不再是单纯的守门将，而是归为一种能够依托牙门，来执行防御、出战任务的偏号将军，后来逐渐成为主将的偏将、副将。
那么，牙门将是从什么朝代开始设立的呢？
在《后汉书》、《三国志》、《华阳国志》等史籍当中，便有关于牙门的记载，如《后汉书》里就有“麴义追至界桥，瓒敛兵还战，义复破之，遂到瓒营，拔其牙门”的记载，应当也设置了牙门将类似的职位。
因此牙门将从东汉末期、三国时期便开始设立！尤其是三国中的蜀汉，多有牙门将的任命。
历史上，曾经担任过牙门将的名将有不少，蜀汉大将王平、张嶷、向宠，以及赵云之子赵广，都曾经担任过牙门将一职，足以看出这一官职，并非简单的守门将而已，而是应该兼备防御和作战能力的职位。