前55年，丞相丙吉病重，汉宣帝刘病已亲自探望，问丞相继承人谁最适合，丙吉不说。刘病已非要他说，丙吉拗不过推荐了三个人：杜延年、于定国和陈万年，汉宣帝最终选择了黄霸。
此人老家在淮阳郡阳夏县，打小就有个明确的志向，就是想当官，做个治理地方的好官。
汉武帝统治的后期，朝廷财政困难，为了快速筹集钱粮，开放了捐官的口子，普通人只要捐献足够的物资，就能获得一个官职。
年轻的黄霸抓住机会，捐出大量粮食，换来一个管理郡里粮食收储的二百石小官。
收粮官这活儿，看着不起眼，却是出了名的有“门道”，想从中捞点油水不难。
但他和别人不同，踏踏实实，一丝不苟，该收多少粮就收多少粮，从不弄虚作假。
日子一长，他的名声渐渐传扬开来，上级欣赏他，百姓也信赖他，他的官途也因此一步步向上走，最终升到了丞相长史。
不仅如此，他还研习过当时的律法，懂得规矩条文，但他在处理政务时却有自己的风格，并不死板严苛，反倒讲求宽厚温和，处事公正，老百姓都认可他。
皇帝对他挺欣赏，一纸诏书把他从地方调到京城，进了专门负责刑狱审判的廷尉府工作。
然而，谁也没想到，他到京城还不到一年时间，竟然就被判了死罪。
这事起因跟汉宣帝心头的一件大事有关，刘询登基的第二年，迫切想为自己继承皇位的正统性正名，最好的办法就是追尊他的祖父汉武帝刘彻。
他要求朝廷大臣们给汉武帝定下庙号，大多数官员都明白皇帝的用意，纷纷站出来表示赞同和歌颂。
偏偏夏侯胜站出来坚决反对，他认为汉武帝在位时期连年征战，耗费巨大国力，弄得百姓生活困苦不堪，这样的人实在不够格享有尊贵的庙号。
当众跟皇帝唱反调，自然惹恼了许多阿谀奉承的大臣，立刻有人跳出来弹劾他。
更让人意外的是，入朝时间不长的黄霸，竟然公开表示支持夏侯胜的观点，结果可想而知，黄霸也被牵连进去，被判了死刑。
幸运的是，霍光对夏侯胜这个人其实相当看重，而且夏侯胜还是汉昭帝皇后上官氏的老师。
再加上汉宣帝本意也只是想给祖父立庙，树立自己的正统形象，并不是真想把反对者都杀干净。
因此，夏侯胜和黄霸被关进大牢后，虽然没有被释放，却也被“晾”在了那里，性命暂时无忧。
在阴暗湿冷的监狱里，黄霸想到了向夏侯胜学习，他恳切地向这位老臣请求，希望能跟随他研习儒家经典《尚书》。
面对这个请求，夏侯胜心情低落，摇着头叹气说：“我们已经是离死不远的人了，学了又有什么用呢？”
黄霸没有退缩：“古人说过，‘早上明白了真正的道理，晚上就死去也没什么遗憾了’，难道先生您不愿意收下我这个学生吗？”
在这之前，夏侯胜对黄霸的了解仅限于道听途说，两人没什么深交，他一直没太明白，这个年轻人为何当初会那样不顾后果地支持自己。
夏侯胜被打动了，他决定收下黄霸这个特别的徒弟，三年的漫长时光，就在师徒二人一教一学的书声中度过，三年后，因局势变化和皇帝开恩，他们二人得以被释放。
夏侯胜一出狱，汉宣帝反而很欣赏他直言敢谏的性格，立刻任命他担任了谏大夫。
这时，他没忘狱中苦学不辍的学生黄霸，随即向皇帝举荐了黄霸，任命他为统管一方的扬州刺史。
不可否认的是，黄霸确实是个处理政务的能手，在扬州刺史任上仅仅干了三年，成绩斐然，便将他提拔到了颍川郡做太守。
为了表彰黄霸过去的杰出表现，鼓励他在地方上再立新功，刘询还特别恩赏，送了一辆装饰考究的高级马车给黄霸。
入京几个月后，黄霸被安排了一个太子太傅，负责教导未来的储君，又过了一年多，老丞相丙吉病逝。
当皇帝再次为丞相人选征询意见时，他并没有选择丙吉临终前推荐的那三个人，而是出人意料地选择了黄霸。
直到黄霸真正坐在了丞相府那把最高的椅子上，他才体会到理想与现实的距离，过去在颍川郡行之有效的治理方法，到了长安城，常常显得力不从心，办起事来远不如从前顺利。
他逐渐明白了问题所在，他所在的位置不是去具体管理琐碎事务，而是要上承天子的意图，下统百官的行动。
在颍川时，他能亲自抓得非常细致，比如要求各个驿站喂养家禽家畜，供养孤寡老人等等。
可当了大汉的丞相，若再沉浸于管这些鸡毛蒜皮的小事，就显得太拘泥于细节，本末倒置了。
纵使他有再大的精力，也管不完天下这数不尽的事务，很快，朝中的大臣们都明显感觉到，他在统领全局、协调各方上的能力，与前任丞相丙吉相比相差甚远。
丙吉执掌相府时期，各位官员都清楚自己的职责所在，今日该做什么，明日要办何事，一切尽在掌握。
另外，在地方做太守，黄霸大部分精力可以投入到解决实际问题、处理具体事务上。
但在京城做丞相，他必须耗费大量心神去沟通协调各方势力，尤其是在调解下属各层官僚之间、以及帮助官僚集团与皇帝之间进行顺畅沟通这类关键任务上，黄霸的做法有时显得不够成熟和老练。