秦朝的天下并没有像秦始皇所期望的那样维持“二世三世至于万世，传之无穷”，就在他去世的第二年（秦二世元年，前209年），陈胜、吴广在大泽乡（今安徽宿州市东南）揭竿而起，势如燎原的大起义敲响了秦朝的丧钟。
公元前206年，刘邦、项羽的军队先后进入咸阳，秦朝灭亡。项羽成为天下霸主，将秦朝国土分封给各路诸侯，刘邦被封为汉王，封地在今汉中盆地和四川盆地。不久刘邦就起兵攻下关中，与项羽争夺天下。
经过三年多的苦战，刘邦在公元前202年（汉五年）初发动垓下（今安徽灵璧县东南）之战。西楚霸王项羽面临四面楚歌的绝境，突围至乌江（今安徽和县东北）自杀。刘邦在汜水北岸（今山东定陶县南）即皇帝位，国号汉（后世称为西汉），定都洛阳，但不久即迁都关中。由于咸阳已成废墟，只能在今西安市西北一个名长安的聚落一带另建新都。朝廷暂驻秦国故都栎阳（今陕西西安和临潼区东北），长安建成后迁入。
西汉初的疆域与秦朝相比缩小了很多。北方的匈奴在冒顿单于的统率下，往东并吞了东胡，向西占据了黄河以西地区，进而赶走月氏和乌孙，使西域大部分国家不得不服从它的统治；向南不仅夺回“河南地”（河套及其以南地区），而且一度推进到今陕西、山西的北部。
公元前200年，汉高祖刘邦亲率大军出击，结果在平城（今山西大同市东北）以东的白登山被冒顿围困了七天，派人向冒顿的妻子送了厚礼才趁机突围。汉朝缺乏对付匈奴的军事实力，只得采取“和亲”政策，将皇族女子或选来的民女冒充公主嫁给单于。但匈奴的侵扰并没有停止，它的一些部族驻地离汉朝首都长安只有700里，轻骑兵一昼夜即可到达。
东南原闽中郡境内的越人君长在秦末恢复自立，并起兵助汉。汉高祖五年（前202年），闽越首领无诸被立为闽越王，在今福建以闽江下游为中心建立了闽越国，都东冶（今福州市）汉惠帝三年（前192年）封勾践后人摇为东海王，以东瓯（今浙江温州市）为国都，所以又被称为东瓯王。这两个政权表面上服从汉朝，实际上并不受约束。朝廷面临内外敌对势力，无暇旁顾，只能容忍。
岭南原来担任秦朝龙川县（治所在今广东龙川县东）令的中原人赵佗，在秦末代理南海郡的尉（军事长官）。秦亡后，赵佗起兵并吞了南海、桂林、象郡，在公元前206年自立为南越王。大约在公元前181年前后，南越灭安阳王，将辖境扩展到今越南北部和中部，直到北纬13度的今巴江一带。
汉高祖十一年（前196年），派陆贾同使南越，封赵佗为南越王。赵佗虽然接受了汉朝的封号，不再自称皇帝，但依然保持着独立地位。在西南，随着秦朝的解体，已经在云贵高原设置的行政机构也撤到四川盆地，西汉初期一直未能恢复。
