皇帝掌握着最高的军政权力，宣战权、调兵权、将帅任免权以及军队建设权都掌握在皇帝手中，这些权力的行使都以皇帝敕令的形式来体现。
中央具体负责军政事务的机构是兵部，所有武职的考选、军籍、马政、兵器、关津等事务都由兵部掌管，兵部下分4个司：兵部司、驾部司、职方司和库部司。 前期实行府兵制，这是建立在均田制基础上的一种兵制。府兵每3年挑选一次，叫“简点”。挑选的对象是六品官以下的子孙以及平民，21岁应征，60岁 免役。府兵服役期间可以免除自身的徭役，但是府兵的负担还是很重的，他们要自备衣服、粮食和部分武器。府兵的军籍隶折冲府，户籍隶所在州县，他们平常在家 生产，每年十一月农闲时由所在折冲府组织训练。府兵的经常性任务是轮流到京城宿卫或到边地戍守，叫做“番上”。如有战事，则要出征打仗。
唐代府兵的组织 贞观十年（636），把军府的名称统一为折冲府，折冲府分为上中下三等，上府1200人，中府1000人，下府800人。每折冲府设折冲都尉1 员，是长官，左右果毅都尉各1员，是副长官。以300人为团，置校尉；50人为队，有队正；10人为火，有火长。全国共有折冲府630多个，分别隶属于中 央的十二卫，即左右卫、左右武卫、左右威卫、左右骁卫、左右领军卫、左右金吾卫。每卫设大将军1人，将军2人。
唐代府兵的分布
630多个折冲府有261个分布在关中一带（约占百分之四十），其他地区特别是江南很少，这就形成内重外轻的局势，有利于中央对地方的控制。
府兵制是一种兵农合一的制度，府兵负担很重，后来还常被将官奴役，所以府兵逐渐逃散，到开元后期，府兵制基本瓦解。
天宝以后折冲府无兵可交，唐政府只得改行募兵制。 唐朝后期招募之兵大致有：第一，中央禁军。唐代宿卫皇帝的禁军称为北衙，常置的北衙禁军有左右羽林军、左右龙武军、左右神武军，合称北衙六军。后来又增 加了左右神策军，神策军从唐德宗以后由宦官控制，成为禁军的主力。唐肃宗时还设立左右英武军，德宗时改称左右神威军。以上北衙六军与左右神策、左右神威合 称北衙十军。
第二，方镇兵。地方各方镇的军队多由节度使自行招募，由国家供给士兵衣粮，称为“官健”。方镇兵又可分为牙兵、牙外兵、外镇兵等。其中牙兵负责守卫节度使衙门，地位最重要，是方镇兵的主力。
第三，团结兵。这是州县组织的地方武装，多召集当地农民组成，士兵不登入军籍，平时在家生产，农闲时训练，主要负责守卫乡里，服役期间发给口粮和酱菜。