卢怀慎晚年任黄门监兼吏部尚书，相当于现在的总理或副总理兼组织部长，地位何等显赫。他得了病，而且还不轻，后来也官居相位的宋璟和卢从愿去看望他，只见他睡的床上就铺了一床席子，不仅单薄而且已经很破旧了。门上连门帘都没有挂。时逢雨天，恰好一阵风带着雨水吹了进来，卢怀慎竟只能举起席子遮挡自己。天晚了，宋、卢二人要走，卢怀慎留他们吃饭。等到饭菜端上来，不过两钵蒸的豆子，几碗菜蔬而已。卢怀慎生活虽然如此清苦，而且已是重病在身，但国家大事却丝毫不敢有忘。当宋、卢二人告别时，他拉着二人的手说：皇上希望天下早日大治的心情很急切，但皇上在位的时间很久了，精力毕竟有限，难以一直勤勉，可能还会出现困倦。在这种时候就极有可能被用心险恶的人钻空子。你们一定要特别注意啊！他的病情日益加重。在病危的时候，他又给皇帝上了一份奏章，向皇帝推荐宋璟、卢从愿、李杰和李朝隐。这些都是贤能之人，特别是宋璟，后来和姚崇同为首辅，史称“姚、宋”，他们为中兴唐王朝、创建开元盛世立下了不可磨灭的功劳。

卢怀慎不仅生活上清廉自律，在官员的任用、奖惩和升降诸多问题上，他的见解不仅高于同时代的不少人，就是放在今天，也有许多可借鉴之处。他任右御使台中丞时，曾给皇帝上了一份奏章，系统地阐述了他的用人之道。卢怀慎对皇帝说：“臣听说德才兼备的人治理国家一百年，可以消除残暴免除杀戮。孔子就说过，假若用他治理国家，一年可见成效，三年便能大治。所以《尚书》认为三年就应考核一次政绩，经过三次考核后，才决定是表彰还是惩罚，是提拔还是降职。子产担任郑国宰相时，变更法令，颁布刑律，第一年时郑国人不习惯，因而愤愤不平想杀掉他。然而三年之后，郑国人却是感恩戴德歌颂他。子产是个贤人，他治理国家尚须多年之后才能显现成效，何况是一般的人呢？但是，近来我们的一些州刺史以及他们的主要辅官，还有两京畿的县令，才干了一两年，甚至才干了几个月就升迁了，又没有对他们任职期间的政绩进行考察。这样一来，就使得还没得到升迁的人四处去打探消息，成天等着好事从天而降，只想着升迁而忘了廉耻，哪里还有时间和心思来为皇上宣扬风化、抚恤老百姓呢？于是，就造成了礼仪不能施行，户口日益流失，仓库日渐空虚，老百姓的生活艰难日甚一日，都是因为地方官员升迁太快的缘故。老百姓知道这些地方官员反正干不长久，就不会认真地听从他们的教诲；而当官的也知道要不了多久就可以升迁了，也就不会竭尽全力干好他的本职工作。身在其位却苟且偷安，靠混日子来养成资历和名望，虽然圣明的君主有不辞辛劳治理天下的远大志向，但靠侥幸就可以升官的道路已经开启了，上下之间互相蒙混欺骗，在这种情况下还能做到一心一意为公吗？这是国家的大忌大祸害啊！我请求对那些担任都督、刺史、长史、畿县县令的人，任职不满四年的，不得升迁。如果他们在任上的政绩特别优异，可以对他们加赐车马裘服和俸禄官秩，或者派专使进行慰问，或者下诏书进行慰勉，但必须等到有公缺时，才能提拔他们。这样做就可以鼓励那些德才兼备的人。对那些不称职或贪婪残暴的人，就将他罢免回家，以此来表明赏罚分明的信义。”卢怀慎的上述言论和见解，针砭时弊，忧国为民，卓识不凡。

卢怀慎去世的时候，因为他家平时没有积蓄，仅一个老仆人做了一锅粥给治丧事的人吃，家贫如洗至此，令人感叹！四门博士张星上言唐玄宗说：“卢怀慎忠诚清廉，始终以正直之道处世，对他不给予优厚的赏赐，就不能劝人从善。”唐玄宗有次去打猎，见到卢怀慎家的围墙，简陋低矮；经过卢怀慎的墓前时，见石碑尚未树立，便停马注视，泫然流泪，后又下诏命官为他立碑，令中书侍郎草拟碑文，唐玄宗亲自书写。

由上看来，卢怀慎并非胆小怕事、懦弱无能，更不是碌碌无为的凡庸之辈。卢怀慎甘为“伴食宰相”，正体现了他的明智和大度。他对唐玄宗“享国久，倦于勤，将有佞人乘间而进”的预见，何等英明。他敬重的姚崇、举荐的宋璟等人，皆一代英才。宰相重在为朝廷选用人才，卢怀慎做得好，堪为称职宰相。卢怀慎与姚崇共同执掌朝政，自认为才能不如姚崇，凡事推重姚崇，概不专断，这种让贤用能、甘当配角的精神，更为难能可贵。尤其令人钦佩的是卢怀慎的清廉，身居高位，甘于清贫，临终之际，唯心忧国事不已。卢怀慎这种不恋权位、谦虚自处、举贤任能、甘守清贫的美德，得到世人的推崇。