据《汉书•贾谊传》的记载，“投鼠忌器”本是一句“里谚”，也就是俗语。贾谊是汉初著名的学者，文帝时官为“太傅”（皇帝儿子的老师）。他多次向文帝上疏，对国家大事提出过很多建议。
贾谊在某次上疏中说：
里谚曰：“欲投鼠而忌器。”此善喻也。鼠近于器，尚惮不投，恐伤其器，况于贵臣之近主乎！
俗语说，“欲投鼠而忌器。”这是个很好的比喻。老鼠在器物近旁，想打它的人尚且有所顾虑而只得不打，因为恐怕打坏器物，何况髙官大臣都在皇上身边，谁敢得罪他们呢！投，用东西投击；忌，顾忌。“投鼠忌器”，比喻想打击坏人而有所顾虑。
《后汉书•孔融传》载孔融上疏，引贾谊所说的这句“里谚”，写作“掷鼠忌器”。
《晋书•庾纯传论》仍作“投鼠忌器” ，“……素疾佞邪，而发因醉饱，投鼠忌器，岂易由言。”
清曹雪芹《红楼梦》第六十一回的回目用了这个成语：“投鼠忌器宝玉瞒赃，判冤决狱平儿行权。”