自从南郭先生从宫中逃出来以后，他的生活一落千丈，他没有任何本领用来谋生，只好沿街乞讨，但是他得到了仅有别人的嘲笑和白眼。他又气又后悔，恨自己以前在宫里的乐队不学无术，骗吃骗喝，白白浪费了美好的时光，以至落到这样的地步。于是南郭先生就用乞讨来的钱打了一把斧子，买了一个扁担，准备上山打柴为生。
　　一天南郭先生正在打柴，突然听见有人在吹竽，那声音优美动听，楚楚动人，于是他就边听边走，不一会儿走到了一个山洞的洞口。只见里面有一位白发白胡子的老人在吹竽，南郭先生听得入迷就在旁边坐下来听。等老人吹完，转过身来，他说了一句让南郭先生打心眼里怕的话：“先生听得如此入迷，应是吹竽的高手，多多指教啊！”南郭先生听得满脸通红，恨不得找个地缝钻进去，他吞吞吐吐地说出了实情，然后拜在老人面前求他收自己为徒。老人捋着长长的胡须南郭先生收下了。
　　过了两三年，南郭先生把竽吹得相当好了，就告别老人，下了山但是他不敢去宫里吹竽，而是在街上吹。有一天宫廷乐队的总指挥碰到了南郭先生。见南郭先生吹竽吹得这么好就问：“先生吹竽吹得这么好，为什么不去宫廷乐队啊，那里的薪水也不低。可比在街上吹竽要赚的多。”南郭先生便一五一十地告诉总指挥实情，总指挥呵呵一笑就说：“过去的事，就让它过去吧，只要先生吹竽吹得好，告诉齐王真实的事，齐王一定就会高兴，就把你收下了。于是南郭先生就跟着乐队总指挥来到了宫中。
　　南郭先生来到宫中，把事情都一五一十的告诉了齐王，又吹了一首鱼给他听，齐王十分高兴，说南郭先生知错就改、发愤图强，于是当场就录用了他。从此以后，南郭先生在宫中吹竽，后来又当上了乐队的总指挥，过上了幸福的生活。