汲黯是濮阳人，祖上是当官的。汲黯为人不拘小节，讲求实效，敢于讲真话而受人尊重，但同时也因此得罪了汉武帝。
有一次，河内郡大火，烧掉了千余家房屋，皇帝派汲黯前去查看，他回来报告说，大火是从一家蔓延开来的，情况不要紧。但是他在河内郡看到有万余户遭受灾荒，有的已经父子相食了，于是他便拿着符节开仓赈济灾民。由于没有请示皇帝，所以他上奏表示自己愿意承担处罚。汉武帝觉得汲黯做得很好，就让他去做荥阳令。
可是，汲黯觉得自己作荥阳令太大材小用了，就声称自己有病，回家种田去。汉武帝听说后，召他回朝，封他为中大夫。但汲黯老是挑汉武帝的毛病，并且直言不讳。有一次，汉武帝大谈自己的理想，汲黯很不给面子，说道：“内多欲而外施仁义”。这样直接当着皇帝的面说，陛下您是仁义的外表，欲望填满的内心，气得皇帝脸色都变了，宣布退朝。
公卿大臣都为汲黯捏了一把汗，所幸的是，皇帝并没有追究。大臣中有人责备汲黯怎么如此不给皇帝面子，汲黯气愤地说，天子设置公卿来辅佐自己，难道就是为了找几个人阿谀奉承，失掉人心的吗？如果我们都爱惜自己的性命，那又怎么对得起国家呢！