这个成语出自《南史·江淹传》。
南北朝有个文学家叫江淹,字文通。他从小孤贫,但努力读书,并写得一手好文章,被人们所称赞。后来,他受到齐高帝萧道成和齐武帝萧赜(zé)的重用,官至光禄大夫。从此,江淹不愿再求上进,晚年时文章越发退步。对此人们传说:江淹梦见张景阳向他索要借给他的一匹绸子,江淹便把怀里剩下的几尺还给张景阳。又梦见郭璞向他讨还一支笔,江淹把一支五彩笔也还给了郭璞。从此,江淹的文章不如从前,诗词也没有佳句,人们传说江淹的才能用完了。
后来人们从这个故事中引申出“江郎才尽”这个成语,比喻某人的才思减退或本领使尽了。