这个成语出自《孟子·梁惠王上》。
　　战国时，齐宣王想通过发动战争来扩张领土，树立威信，使自己称霸于天下。孟子就去见齐宣王，对齐宣王说：“听说你想用战争征服天下，这是绝对办不到的。你想使天下都归顺自己，就必须先好好地治理自己的国家，施行仁政，使天下的官员、农人、商人，甚至旅行者都愿意到你这儿来。如果用武力去征服，就好比是‘缘木而求鱼’，是根本达不到目的的。”
　　缘，攀援。“缘木求鱼”指爬到树上去找鱼。比喻方向、方法错误，不可能达到目的，劳而无功。