公元713年，姚崇为宰相时，当时有一个出身低微的小官吏，经过他的引荐，步步高升，最后与他并肩同朝当了宰相。这个人的名字叫魏知古。
由于魏知古出身微贱，又是姚崇亲自引荐的，所以姚崇对魏知古比较轻慢，使魏知古渐渐生出了怨恨之心。而姚崇有两个儿子，都在魏知古手下做事，可是他们也仗着父亲有恩于魏知古，作威作福，对魏知古也不怎么恭敬。魏知古对此忍无可忍，就将所有情况禀告了唐玄宗。
有一天，唐玄宗在闲谈时突然问姚崇说；“你的儿子品行才干如何？如今在做什么官？”
姚崇心想唐玄宗不会无缘无故地问这个问题，就小心翼翼地回答说；“臣下有三个儿子，其中两个在魏知古手下。不过这两个儿子为人有些贪欲，而且不够谨慎。我估计他们也许会干预魏知古的政务，可我一直没有来得及过问这些事。”
唐玄宗本以为姚崇会为自己的儿子隐瞒辩护，所以听了姚崇的话，觉得他并不袒护自己的孩子，因而对他增加了好感。唐玄宗又问：“你没有来得及问，怎么这样估计呢？”
姚崇此时已经对唐玄宗为何提问明白了八九分。就回答说：“魏知古微贱的时候，我曾经保举和提携过他。我的两个儿子愚昧无知，以为魏知古必然因对我感恩戴德，容忍他们胡作非为，所以我估计他们可能会干预政务。”
于是，唐玄宗更认为姚崇没有私心，而觉得魏知古背后数落姚崇，有些忘恩负义的味道，就有些厌恶魏知古，想给他降职处分。
姚崇见唐玄宗有这个念头，就又说：“是我的儿子行为不端，冒犯了陛下的法律规矩，陛下不追究我的负任，我已经感到很万幸了，哪能因为我的缘故而降魏知古的职务呢？这样做的话，天下人必然会觉得陛下偏爱我，国家大事也会因此受影响的。”
唐玄宗见他这样说，就决定暂时不处分魏知古，但他心中总记着这件事。又过了一段时间，他还是把魏知古贬为工部尚书。而姚崇凭借自己机巧的语言，不仅保全了自己和孩子，还使怨恨自己的人，重新降到比自己低的地位。
而姚崇虽然因此罢相，但是唐玄宗对他仍极为尊崇，让他五日上朝一次，遇到重大政事也专门征询他的意见。
公元720年，即开元八年，唐玄宗封姚崇为太子少保，但他却因病没有接受。公元721年，即开元九年，这年九月初三日，姚崇病逝，终年72岁。病危之时，嘱咐子孙不要铺张，一定要薄葬。
唐玄宗对姚崇的逝世，十分悲哀，下令为姚崇撰写碑文，赞誉姚崇。并追赠扬州大都督，谥号文贞。公元729年，即开元十七年，唐玄宗又追赠姚崇为太子太保。
