在《史记·秦始皇本纪》中，司马迁记载了如下一段场景：公元前221年，刚刚完成统一大业的秦王嬴政在都城咸阳（今陕西咸阳东北）召集群臣，举行了一个具有重要意义的御前会议。在这次会议上主要讨论了两件大事：其一是商议帝号，其二是订立制度。有关第一件事，司马迁写道：

秦王初并天下，令丞相、御史曰：“……寡人以眇眇之身，兴兵诛暴乱，赖宗庙之灵，六王咸伏其辜，天下大定。今名号不更，无以称成功，传后世。其议帝号。”丞相（王）绾、御史大夫（冯）劫、廷尉（李）斯等皆曰：“昔者五帝地方千里，其外侯服夷服，诸侯或朝或否，天子不能制。今陛下兴义兵，诛残贼，平定天下，海内为郡县，法令由一统，自上古以来未尝有，五帝所不及。臣等谨与博士议曰：‘古有天皇，有地皇，有泰皇，泰皇最贵。’臣等昧死上尊号，王为‘泰皇’。命为‘制’,令为‘诏’,天子自称曰‘朕’。”王曰：“去‘泰’,著‘皇’,采上古‘帝’位号，号曰‘皇帝’。他如议。”制曰：“可。”追尊庄襄王为太上皇。制曰：“朕闻太古有号毋谥，中古有号，死而以行为谧。如此，则子议父，臣议君也，甚无谓，朕弗取焉。自今已来，除谥法。朕为始皇帝。后世以计数，二世三世至于万世，传之无穷。”

从上面这段文字中，我们可以知道，秦王嬴政在经过多年的征战，如今将齐、楚、燕、韩、赵、魏等六国全部平定，四海归为一统之后，觉得自己功高盖世，认为如果再用与原六国国君一样的名号来称呼他，是不足以显示他的丰功伟绩，也无法使他流芳百世的。于是他在群臣建议的基础上，自定为“始皇帝”。群臣对此也都表示同意，并无异议。

至于要讨论的第二件事情，则没有如此顺利，非但如此，还引发了一场不小的争论。以丞相王绾为代表的一批大臣，率先向秦始皇建议道：“诸侯初破，燕、齐、荆地远，不为置王，毋以填之。请立诸子，唯上幸许。”他们的意思就是说：“现在秦刚刚统一了六国，原六国之地，如燕、齐、楚等，地处较远，如果不分封新的诸侯王，恐怕无法镇抚这些地区，所以请求立诸皇子为王，希望圣上能够批准。”秦始皇于是将王绾等人有关分封的这一建议提交给与会的诸位大臣讨论。结果几乎所有的大臣都认为这个办法非常好，应该实行。不过，唯有廷尉李斯对此不以为然，他辩论道：

李斯这段话的意思是：“当初周文王与周武王分封了很多的同姓子弟为诸侯王，但是后来这些诸侯王彼此之间的关系渐渐疏远，互相攻击，视同仇人，周天子对此也不能禁止。现在四海之内，仰仗陛下的神灵而得以一统，成为了郡县之地。用国家的赋税重重赏赐给诸位王子与功臣，就已经足够了。改行郡县制，天下没有不同的意见，就说明这一制度是有利于国家安定的措施，所以说分封诸侯是不适当的做法。”在听了李斯这番话后，秦始皇最后说道：

天下共苦战斗不休，以有侯王。赖宗庙，天下初定，又复立国，是树兵也，而求其宁息，岂不难哉。廷尉议是。

秦始皇认为，天下的人们之所以会苦于连年的战争，就是因为有诸侯王的存在。现在我们仰赖祖辈，使天下刚刚平定下来，却又要分封诸侯国，这不就是在制造战争吗？在这种情况下，却还要寻求安宁，岂不是一件非常难的事情吗？因此，他认为廷尉李斯实行郡县制的建议很对，应该采纳。

于是秦始皇不立尺土之封，将郡县制推行天下，把全国分成三十六个郡，每郡设置郡守、郡尉、监御史等官职。这些郡的官员，都由中央朝廷直接任命，而且可以定期更换。郡守是一郡的行政长官，权力很大，除了所辖各县的长官由中央任命外，一郡的属吏都由郡守从本郡人士当中选拔。在治郡方略方面，郡守可以施展自己的才能，朝廷对此不加干预。郡尉典武职甲卒，不是郡守的属官，而是直接领受朝廷的命令。监御史负责监察郡治，又叫郡监，隶属于御史中丞，是中央监临地方的官员。因此，监御史、郡守、郡尉虽然在职务上相互联系，却不相隶属。郡之下再辖县，每个县依据大小，设置不同名称的长官，大县称令，小县称长。

此后，大约在秦始皇二十九年（公元前218年），秦军向南越过南岭，开始了对南越人的征服。几年之后，秦军再次从水路，沿史禄率人开凿的沟通湘江与漓江的运河——灵渠，到达岭南，占领了五岭以南的南越地（今广东、广西及越南东北部），然后设立了南海、桂林及象郡等三郡。

秦始皇三十二年（公元前215年），大将蒙恬又率领三十万大军北上，将活动在河套一带的匈奴人赶走，收复了战国时期赵国的地盘。次年，秦便在阴山以南、黄河以东的区域内设置了九原郡，统辖在这一区域内新建的三十四个县（一说四十四个县）。另外，为了加强秦朝北部的边防，秦始皇又征募劳力将战国时期秦国、赵国和燕国各自筑造的长城连接起来，加以补建修缮，最后建成了一条西起临洮（今甘肃岷县），沿黄河、阴山，东至辽东（今朝鲜平壤西北海滨）的万里长城。

这样，秦朝便形成了北起河套、阴山山脉和辽河下游地区，南到今天的越南东北部与广东大陆，西自陇山、川西高原和云贵高原，东迄朝鲜半岛北部的广大疆域。

此后，秦又陆续从已设置的郡中分出一些新郡，这样，到了秦代末年，依据已知的各类文献记载的秦郡共有四十八个，统辖一千个左右的县级政区。另外需要说明的是，在被征服的少数民族政权区域内，秦并未置县，而是设立了与县同级的道来进行管理。

当时秦郡的划分，基本上是以山川为界，郡的辖区范围与自然地理区域颇为吻合，这主要表现在以下几个方面：首先，每个秦郡大体即是按照一个地理单元来划分的，例如首都所在的内史，占据了当时最为富庶的关中盆地，或者说是渭河冲积平原，而汉中郡的范围与汉中盆地大体相当，南阳郡的辖区也即相当于南阳盆地；其次，如果自然区域的范围比较大，就分设为两郡，如云中与九原两郡共同管辖河套冲积平原，巴郡和蜀郡一起统辖四川盆地，都是很好的例证；再次，每郡大多以一个肥沃的盆地或平原为核心，然后推广到四周的高原或山地，北地、上郡、上党、太原、河东、代郡、雁门等郡都是属于这种情况。

秦郡之所以会如此划分，是与当时以农业为主的经济密切相关的，每郡只有保证有相当的耕种土地，才能使农业生产具备一定的坚实基础。在此基础之上，行政管理也才能发挥效用。

秦朝郡县制的全面实行，标志着中央集权制国家的形成，中国从此成为皇权专制的中央集权制国家。后世对秦始皇的这一做法，大多盛赞不已，将“罢侯置守”、“废封建立郡县”列为中国历史上发生的几件最重要的大事。虽然秦代并未像秦始皇当初所想象的那样建成万世一统的大帝国，而在陈胜、吴广为首掀起的农民起义中，结束了其十五年的统治，但秦代所形成的专制主义中央集权制度，及其所确立的以郡县制为表现形式的行政区划制度，却并未就此夭折，而是为后世历代所遵奉，持续了两千余年的时间。