学生时代的吴晗，读书刻苦，成绩优异.1934年夏天，他作为高材生，毕业于清华大学历史学系。
三年的大学生活，勤奋和艰辛始终和他相伴。
吴晗平时除了读书、抄写卡片之外，几乎没有什么空闲的时间。他读的书很多，也读得很认真。有时，书上有些地方读不懂，他从不轻易放过。而是拿这本书对照，找那本书互证，锐意思索，直到搞懂弄透为止。他还经常抄书，认为只要随读随抄，“抄的资料多了，多看几遍，就可以巩固记忆，也容易发现问题”。吴晗在大学时代，在写文章作考证之余，遇到需要的材料，都随手抄录下来。几年下来，共有十几万字。这
种惊人的毅力，使他取得了不寻常的成就。吴晗在学业上的勤奋和刻苦，很为前辈学者赏识，也得到同学们的尊重，有人给他起了个绰号，称他为“太史公”.
吴晗在大学的生活也是很艰苦的。就在他入清华的那一年，他的弟弟来北平上高中，妹妹在杭州进了初中，父亲又正在生肺病。老家的经济每况愈下，无力维持子女上学。因此，弟妹的学费、生活费都得靠吴晗想法筹集。当时，吴晗的生活是贫困的，常常连一本必需的书也买不起。他很少进城，电影，也是半年一年难得看一次。至于穿着，是十分朴素的:身上穿着母亲纺制的蓝色土布长衫，脚上是破旧的土布鞋。他不可能也不想过多地去追求生活上的讲究和排场，而是一心扑在学业上。同学们见他白天黑夜地读书，没钱看戏、看电影，穿着也土里土气，有人又给他起了个外号，叫他“腐擂”。这本来是个贬义词，但吴晗听了不但不生气，反而高兴地说:“腐儒不简单，司马迁在《史记》里还称汉代名臣随何为腐儒呢!”