为了能让唐高宗李治更好的驾驭这个重臣元老，李世民病危时，甚至把李勣远谪，还对新皇帝叮嘱说，自己死后，就将李勣施恩召回，为己所用。

唐高宗李治即位后，李勣还被任命为宰相，执掌朝廷政务，可以说他在当时出将入相，是朝廷的关键人物之一。

由于李勣年事已高，唐高宗李治特意下诏，允许李勣“乘小马出入东、西台，卑官日一人迎送”。