这个成语出自《史记·吴王濞列传》。
　　汉孝文帝时，吴王濞（bì）的太子入京与皇太子弈棋，被皇太子用棋盘打死。吴王因此与皇室产生嫌隙，就假装生病不入朝。
　　到孝景帝即位后，御史大夫晁错向皇上说：“如今吴王由于以前有太子被杀的隙嫌，仍装病不来上朝，照古法应当诛杀他，但文帝不忍心，还赏赐吴王许多东西，对他的恩德已经非常优厚，他应当改过自新才对。但他反而更加骄奢，到铜山铸钱，煮海水成盐，引诱天下亡命之徒，计划叛乱。皇上要因势削弱他，以免酿成大祸。”于是，汉王朝开始逐渐削除吴王的土地。吴王濞深恐削地不止，萌生谋反之意，后终于聚集其他诸侯举事谋反，但没有成功，被杀身亡。
　　“改过自新”意为改正过错，重新做人。