《史记》记载，秦朝统一天下后，丞相王绾等人曾上书秦始皇，诸侯刚刚被消灭，燕、齐、楚地区偏远，如果不在那里分封诸王，恐怕难以维护朝廷的统治，请立诸位皇子为王，让他们为您戍守边疆，永享太平。
这其实就是延续周朝的做法。
秦始皇把这个意见交给群臣去讨论，绝大部分人都认为王绾说得有理，唯独李斯站起来反对。
李斯说：“当年周朝分封的子弟和同姓诸侯有很多，以为可以巩固王室的统治，开始那几代还算勉强可以，到后来就关系疏远，相互攻击有如冤家对头，诸侯们成天打仗，连天子也无法制止。如今海内一统，原来的诸侯国都变成了郡县，赏赐皇子和功臣由国家的税收承担，既方便又易于控制，天下百姓也断绝了其他念头。我斗胆问一句，本来已经是形势一片大好，为什么还要分封诸侯，给自己添麻烦呢？”
李斯的话，正中秦始皇下怀。秦国此时正处于一个历史的人字路口，向左走，是恢复封建制度；向右走，是中央集权的专制道路。秦始皇毫不犹豫地选择了后者，他对群臣说：“天下人之所以饱尝战乱之苦，就是因为有那么多诸侯存在。如今我们刚刚打出一个统一的国家，又要建立诸国，这是为战争埋下种子啊！用这种方法来寻求国家的安宁，难道不是南辕北辙吗？李斯的意见是正确的，今后不用再提分封建国之事。”
有些人还是转不过弯来：“那谁来为陛下管理那么广阔的土地呢？”
秦始皇说：“有郡县。”
郡是春秋末年的产物，在战国时期被逐渐推广，成为各国中央政府以下的地方行政机构。
秦国最早设郡，均在边远地区，分别为西南地区的巴郡、蜀郡和北方的陇西郡、北地郡。在兼并的过程中，又不断在新占领的土地上设郡。
赵国故地有太原郡、云中郡、邯郸郡、巨鹿郡、雁门郡、代郡、常山郡；
魏国故地有上郡、河东郡、东郡、砀郡、河内郡；
韩国故地有三川郡、上党郡、颍川郡；
楚国故地有汉中郡、南郡、黔中郡、南阳郡、陈郡、薛郡、泗水郡、九江郡、会稽郡、长沙郡、衡山郡；
齐国故地有东海郡、齐郡、琅琊郡、胶东郡、济北郡；
燕国故地有广阳郡、上谷郡、渔阳郡、右北平郡、辽西郡、辽东郡；
百越及南越地方有闽中郡、南海郡、桂林郡、象郡；
匈奴地区有九原郡。
前前后后共设置四十六郡，郡的最高长官是郡守。为了防止郡守独霸一方，又设置郡尉负责地方军事和治安，设置郡监负责监督百姓和官吏。
郡下设县，县的最高长官是县令，不满万户的小县则为县长。县令和县长下设县丞、县尉，分权共治。
县下设乡，负责摊派徭役、征收田赋、管理治安等工作。乡吏有“三老”，负责教化；有“啬夫”，负责讼事和收税；有“游徼”，负责治安。
乡下设里，相当于现在的村，村长本来称为里正，为了避秦始皇的名讳，又称为里典。
基层还有一种特殊的机构——亭。亭与乡、里没有隶属关系，属于县尉的派出机构，相当于现在的派出所，主要职责是“捕盗”，同时也负责接待来往官员和传递政府邮件，兼有驿站和邮政所的功能。
郡县是地方机构。中央机构的设置，也体现了分权而治、只对皇帝一人负责的原则。
皇帝之下，百官之首，就是丞相。战国时期，秦国的丞相不仅是国内的最高行政长官，也可率军出征，樗里疾、甘茂便是先例。秦朝建立后，秦始皇首先是剥夺了丞相的兵权，使其成为单纯的文职官员，同时又设立御史、太尉来牵制相权。
所谓御史，就是“管官的官”，负责监察百官，享受副丞相待遇，相当于今天的中纪委书记。这是秦朝的独创，此后两千多年间，历朝历代都沿袭秦朝的御史制度，可见其对于维护皇帝的统治，是起着很重要的作用的。
太尉则是最高武官，相当于今天的国防部长，享受丞相待遇。有意思的是，秦始皇设立了太尉之职，却一直没有任命谁来当太尉，只任命了太尉职下的卫尉、中尉、廷尉等官员。也许秦始皇觉得，累就累点，还是将军权直接控制在自己手里比较可靠。
丞相、御史、太尉合称“三公”，此后历朝历代，大体上都按照这个模式来设置自己的中央机构。所谓“位列三公”，就是说某人已经做到官员的最高级别，这在皇权社会是相当了不得的。
帝国如此庞大，即便设置了郡县等机构，仍然存在一个山高皇帝远的问题。为了让皇权能够渗透到每一寸土地，秦始皇下令修筑贯穿全国的驰道。
顾名思义，驰道就是可以让马车飞驰的道路，也就是秦朝当时的高速公路。
公元前220年开始修建的驰道，主干线有两条，均以咸阳为起点。一条向东，直通原来的齐、燕地区；一条向南，直通原来的楚地和吴越等区。到了公元前212年，为了加强对匈奴的防御，秦始皇又下令修筑由咸阳向北的“直道”，直达北方的九原郡，总长一千八百余里。
据汉人记载，秦朝的驰道，“广五十步，三丈而树，厚筑其外，隐以金椎，树以青松”，是相当壮观而且实用的，绝非后世的豆腐渣工程可比。
通过这些四通八达的驰道，皇帝的命令可以很快传达到全国各郡县。而且一旦有战乱，中央的精锐部队可以迅速奔赴四方。这对于加强中央集权来说，无疑有着重要的意义。