这个成语出自《汉书·尹翁归传》。
　　汉朝时，尹翁归任东海（今山东省东南和江苏省东北一带）太守。他处理政务明察秋毫，对郡中士民百姓的德行以及奸邪之人的罪行都掌握得清清楚楚。当时，东海有一富豪叫许仲孙，为人狡诈，横行霸道，扰乱治安。官府派兵捕获，许仲孙凭自己的势力与官府作对，很久没能被制服。尹翁归到任后，将许仲孙斩首弃市，郡中上下为之怖栗，再也无人敢冒犯禁令，东海大治。人们说尹翁归斩许仲孙，正是“以一警百”。
　　“惩一警百”又作“以一警百”，意思是惩罚一个人以警戒更多的人。