据《史记·项羽本纪》记载，秦朝末年，封建统治日益腐败，农民起义连绵不断，其中实力最强的是刘邦和项羽两股势力。刘邦最先攻入秦朝的都城咸阳，项羽不服，集合了大批人马，准备进攻刘邦。刘邦因兵力较弱，不便和项羽大战，便主动退出了汉中。
　　几年后，刘邦罗致了许多忠臣勇将，力量日益强大起来，刘邦便派使者去见项羽，提出以鸿沟为界，互不侵犯，各自保留自己的地盘。项羽因自己的势力逐渐消弱，无奈只好同意了刘邦的提议，引兵东去。为此，刘邦感到非常满足，准备再不打仗了。
　　有一天，刘邦的谋士张良、陈平进谏，劝道：“如今大王已得了天下三分之二的土地，而诸侯又都服从您；项羽的军队既疲劳，又无粮食，正是衰弱的时候，如果不趁这机会消灭他，就好比养了一只老虎，长大了自己要被害的。”刘邦听后，觉得有道理，于是率兵追击项羽，又命韩信、彭越等两面夹击，结果项羽大败，在乌江边自杀。
　　“养虎遗患”意思是养着老虎，必将留下祸患。比喻姑息敌人，必有后患。