秦始皇统一天下之后，书同文车同轨，统一度量衡和货币，派三十万精锐骑兵把守长城的同时还征发五十万民工修筑长城，全国各地修驰道为他巡游天下，在骊山修建他死后的陵墓、大造阿房宫等浩大工程，使得天下服兵役和徭役的人十之三四。
刘邦身为沛县泗水亭亭长，几乎年年都要差押两三次役徒前往全国各地服徭役，每次服完徭役都有有些人伤残，甚至有个别人死在服徭役之地。
秦始皇听说“东南有天子气”，因而巡游东方，借以镇伏东南的天子气。而为完成差送任务的刘邦，在路上又遇到斩白蛇的事情，怀疑这事与自己有关，就逃跑到芒山、砀山一带的荒山野岭的山泽岩石之间隐藏了一段日子。吕后和樊哙一起找刘邦，给刘邦送吃送喝，常常一去芒山、砀山就轻易找到刘邦。
刘邦感到很奇怪，好奇地问吕雉，吕雉说：“我发现你所处的地方上面常有云气，向着有云气的地方去找你，就很容易找到。”
刘邦听到妻子吕雉这番话，就算躲藏的日子再苦，也觉得心里美滋滋的。沛县子弟很多人知道这个事情后，很多人都想跑来芒砀山来投靠他。
有一次，刘邦负责押送县里上百号人前往郦山服徭役，途中有很多人因为受不了路途遥远的苦难和想念家里妻儿老小，纷纷逃跑。刘邦心里琢磨着，如果按这样的逃跑人数继续下去，等他押送这般役徒到达郦山之后，估计也逃的差不多了。所以他内心也是很害怕，因为秦法严苛，完不成任务或逾期到达都是要被处死的。
刘邦带着越来越少的役徒到了丰邑(今江苏省徐州市丰县)，在丰邑西面的一个沼泽地带，停下来喝酒，夜间就释放了所押送的役徒，跟他们说：“各位都走吧，我也从此王命天涯，不敢回去了！”刘邦这话一出，很多役徒纷纷逃离。
只有十多个年轻力壮役徒愿意留下来追随刘邦，其中有12名是刘家原来的舍人。这些人为了报答当年丰邑邑令刘荣对他们的恩遇，所以愿意追随刘邦这个少东家。刘邦带着酒意，当夜抄小路通过这片沼泽，派几个人舍人前去探路，前去探路舍人回来跟刘邦说：“前面有一条大蛇横在沼泽路中间挡住去路，恐怕过不去了，还是原路返回吧！”
刘邦听得迷迷糊糊，醉醺醺地跟探路的舍人说：“好汉走路，有什么好害怕的呢！”刘邦趁着酒意，一斜一拐地斗胆走上去，立即拔出身上的三尺佩剑朝着挡路的蛇猛然击去，大蛇就被斩为两段，道路瞬间就畅通无阻。刘邦走了几里，酒性发作，便躺在地下睡着了。后面的人来到斩蛇的地方，见有一个老太太夜里哭泣。
刘邦的那些舍人问她为什么在这里啼哭，老太太泪流满面一脸委屈地说：“有人杀了我的儿子，所以我在这里哭泣。”
那些舍人又问：“您的儿子为什么被别人杀了？”
老太太哽咽地说：“我的儿子是白帝之子，变为蛇，横在沼泽路当中，现在被赤帝的儿子杀了，所以我才在这里哭泣。”
刘邦的那些舍人以为老太太在欺骗他们，于是想给老太太一点苦头吃，让老太太说出真话，他们刚要动手，老太太忽然不见了。
落在后面的人到了刘邦休息的地方，刘邦已经睡醒了。刘邦的舍人把刚才他无意间斩杀白蛇及老太太突然消失的事情告诉了刘邦。刘邦听着挺玄乎的，但是内心也自窃喜，觉得自命不凡。留下来跟随刘邦的十几个人，从此对他就更加敬畏了。
秦二(胡亥)世元(公元前209)年秋(七月)天，陈胜、吴广等900人在蕲县大泽乡起义，打着公子扶苏和楚国大将项燕的旗号攻城略地，打到陈县(今河南省周口市淮阳县)便自立为王，起国号为“张楚”。各郡县为了自保，大多杀死长官，响应陈胜吴广的起义军。