开元元年至开元十年，姚卢、宋苏、张源六位贤相的相继辅政，为推行开元新政立下了不可磨灭的功勋。开元年间，张嘉贞以后的历任宰相，如张说，李元纯、 杜暹等人，亦能坚持开元初年所制定的治国方针，其业绩多有可称道者。开元新政的推行与成功以及开元盛世的出现，是开元年间一批批贤相的辅政联系在一起的。 开元前期一批批贤相的选择、搭配和更替，都是唐玄宗精心考虑、策划的结果。他选拔的诸多宰相，大多兼有任职于朝廷与地方的经历，从政经验丰富，通晓上下 情形，有治国的卓越才能。特别是在正副宰相的搭配上，颇得刚柔相济之妙，深受后人称道。开元初年的三对宰相，任职都在三四年之间，更替稍频，但在推行既定 治国方针上保持了政策上的连续性，可谓是一条成功的历史经验。唐玄宗不仅善于识别贤才，而且对选用的宰相充分信任，以礼相待。对于已罢免的宰相，如姚崇、 宋等人，唐玄宗仍予以种种优待，有时亦就国家政事向他们征询意见。
针对中宗以来吏治的种种弊病，玄宗进行了大力整顿。中宗时，吏治 腐败，官员任命途径混乱不堪，朝廷甚至卖官鬻爵，官僚机构臃肿，国家行政开支巨大。玄宗初登位时，就立即着手整饬吏冶，精简官僚机构，裁减冗员。开元二年 （公元714年）二月，申王李成卫请求把王府录事阎楚硅提拔为王府参军。宰相姚崇和卢怀慎上疏表示反对，认为授予官职应根据本人的才能，由专门机构掌管， 若因为是亲朋故友，就授以官爵，势必扰乱朝纲。玄宗采纳二人奏议，拒绝了申王的请托，从此以后，请谒之风顿消。五月，又下令免去员外、试官，检授官，觏定 若不是有战功及诏敕特别录用的，分掌文武铨选的吏部与兵部不能轻易授官。以后又停废闲置的诸司、监、署府十余所，减免冗官三百余员。玄宗对吏治大刀阔斧地 进行整顿后，国家机构，上为精简，办事教率大大提高，同时减轻了国家的财政支出。
唐玄宗的任人唯贤，还体现在他重视对地方州县官员的 选拔、任用、培养、考核、升降与奖惩上。早在贞观年间，唐太宗十分重视地方州县官员的选用，把地方上的吏治视为治国的重要内容之一。他曾说过：“治人之 本，莫如刺史最重”。又说：“县令甚是亲民要职”。唐玄宗效法贞观吏治，指出“诸刺史、县令，与朕共治，情寄尤切”。他规定兼管数州军事的都督和州刺史在 赴任前，都要向皇帝“面辞”，面授治国方略。开元元年十二月，唐玄宗在敕令中规定：“都督、刺史、都护将之官，皆引面辞毕，侧门取进止。”都督、刺史赴任 前向皇帝面辞，遂成为一项制度。
唐玄宗为扭转“重内官，轻外职”的倾向，采取地方官与京官相互交流的措施，并使其成为一种制度。唐玄宗在开元初年，不止一次地发布制书、敕令，强调京官与都督、刺史相互交流的必要。 从开元三年（715年）起，他陆续把诸王派往偏远的州任刺史，州上实权由长史、司马掌管，另一方面又对诸王不加斥责。而维系同枝连叶的亲属间的紧密关 系。在抑制权贵势力方面，玄宗更是秉公行事，严格执法，极少宽贷，以致皇后妹夫长孙昕因殴人也被立即处决。上行下效，许多地方官吏也勇于抗争权贵的不法行 为，保护百姓利益。玄宗及其臣下抑制不法权贵的行为对于稳定社会秩序，加强中央集权产生了积极的影响。
玄宗对地方官吏的素质十分重 视。开元四年（716年）五月，有人反映说选官太滥，一些县令名不副实，只是庸才。玄宗利用新官人谢的机会，宦召所有新任县令至宜改殿庭，亲自考核。结果 只有鄄城令韦济一人合格。玄宗立即提升他为礼泉令，其余二百多八一律退任原职，不得入第。另外，最差的四十五人，退回原地重新学习。这次的主考官也因此被 贬。
当时有些高官子弟依靠祖上的功绩而步入仕途，在地方为官，依仗权势，作成作福，为所欲为，不顾律法，成为为害一方的害群之马。有 鉴于此，玄宗下诏，不可授予少不更事、不通世务的朝官子弟为县官等地方官职。玄宗还建立了对刺史、县令的考核制，颁发了《整饬吏治诏》，每年由各巡按察使 考察刺史、县令的施政情况，按政绩的优劣分为五等，作为地上方官升降的依据。玄宗即位两个月后，就召见京畿县令，勉励他们恪尽本分，爱护百姓。他又对有政 绩的地方官破格提拔。
开元六年（718年），唐玄宗发布敕令：“刺史兼于京官中简择，历任有善政者补署。”两年后又发布敕令：“自今以后，诸司清望官阙，先于牧守内精择。都督、刺吏等要人，兼向京官简授。其台郎下除改，亦于上佐县令中通取。即宜铨择，以副朕怀。” 开元八年（720年）五月，源乾曜进位侍中，位列宰相。他上言说：“形要之家多任京官，使俊义之士沉废于外。臣三子皆在京，请出其二人。”唐玄宗立即采 纳这一建议，下诏书称赞源乾曜出于公心，“令文武官父子昆弟三人在京司者，分任于外。”于是，“公卿子弟皆出补”。在源乾曜的儿子源弼、源絮分别由河南参 军、太祝出任绛州司功、郑县县尉后。唐玄宗“命文武官效之，于是出者百余人”。唐玄宗诏书命公卿子弟由京官出任地方官，这不仅有助于扭转重内职轻外任的观 念，实际上成为京官与地方官相互调任制度的内容之一。
开元十二年（724年）六月，由于山东发生旱灾，唐玄宗“命台阁名臣以补刺史； 开元十三年（公元725年），玄宗自泰山封禅返京，沿途留心察看地方官施政表现。有些地方官的嘉言懿行给玄宗留下了很深的印象，事后他感慨地对丞相说道： 从前多次派遣使臣到各处巡察，考察官员们的优劣与政绩，这次封禅经过诸州亲眼所见，才知道使臣们有很多情况不能完全告诉我。怀州刺史王丘只献上几头牲畜， 别无旁物。魏州刺史崔沔恭迎时不用贵重的锦绣之物，这很是俭朴。济州刺史裴耀卿上书数百言，忧国忧民，都是忠谏之语，朕将把奏书带在身边，用来告诫自己和 他人。这三个人不用国财民力媚上邀宠，真是我朝的良吏啊。”于是提升王丘为尚书左丞，崔沔为散骑侍郎，裴耀卿为定州刺史。与此同时，唐玄宗在《重牧宰资望 救》中强调：朕欲妙择牧宰。以崇风化；亦欲重其资望，以励衣冠。自今以后，三省侍郎有阙，先求任刺史者；郎官阙，先求曾任县令者。